Управление безопасностью ИИ стало главной темой дня. Генеральный директор Microsoft Наделла предложил оснастить системы ИИ «аварийным выключателем», который позволит отслеживать их работу и останавливать её. В то же время сотрудничество Apple в области технологий и привлечения специалистов, взаимозависимость американо-китайских цепочек поставок для ИИ и сложности внедрения голосовых агентов показывают, что отрасль переходит от демонстрации возможностей к решению практических задач эксплуатации.[1][2][3]
Главная новость дня: Наделла призвал установить «аварийный выключатель» для ИИ-агентов
10 октября генеральный директор Microsoft Сатья Наделла публично заявил, что отрасли ИИ нужно пересмотреть принципы создания надёжных систем. По его словам, нельзя превращать всё более сложные модели в матрёшку из чёрных ящиков, на выводы которых остаётся лишь пассивно соглашаться или не соглашаться. По-настоящему надёжная система должна отделять модель от внешних программ, отвечающих за выполнение задач, а средства контроля безопасности размещать за пределами модели.[1]
Он предложил три конкретных подхода: сохранять защищённые от подделки и удобные для чтения человеком свидетельства важных действий модели; давать уполномоченным сотрудникам возможность в любой момент приостанавливать или отключать систему во время выполнения задачи; а также изначально проектировать архитектуру с учётом того, что модель может подвергнуться атаке или отклониться от заданного поведения. Последний пункт Наделла сравнил с «аварийным выключателем». Суть не в том, насколько гладко модель формулирует ответы, а в том, сохраняет ли человек проверяемый контроль, когда она начинает обращаться к инструментам, изменять файлы или выполнять реальные действия.[1]
Пока это публичные рекомендации Наделлы по управлению ИИ, а не новый обязательный для всей отрасли стандарт, выпущенный Microsoft. Важно, что ИИ всё чаще используют не для ответов на вопросы, а для выполнения многоэтапных задач, и обычные фильтры контента не могут охватить все операционные риски. Для компаний журналы действий, разграничение прав доступа и возможность остановить систему вручную могут постепенно стать более важными критериями при выборе ИИ-агентов, чем эффектные демонстрации.[1]
Главные новости
Apple рассказала о сотрудничестве с командой стартапа Huxe, создающего персонализированный аудиоконтент
Apple сообщила европейским регуляторам, что согласилась предложить работу некоторым сотрудникам Huxe AI и получила неисключительную лицензию на её интеллектуальную собственность. Это не означает, что Apple купила Huxe или что все сотрудники приняли предложения. Huxe основали разработчики, участвовавшие в создании аудиофункций Google NotebookLM; компания специализировалась на создании персонализированного аудиоконтента на основе информации о пользователе. Ранее компания объявила о прекращении работы сервиса. В сообщении для регуляторов не говорится о планах Apple по будущим продуктам, поэтому предположения о новых функциях Apple Podcasts нельзя считать подтверждёнными планами.
Расследование The Washington Post: цепочки поставок в отраслях ИИ США и Китая сложнее разделить, чем это следует из политических заявлений
В репортаже из Пекина, опубликованном 11 октября, The Washington Post отмечает: американские компании, с одной стороны, обеспокоены конкуренцией со стороны китайских моделей и связанными с ними рисками для безопасности, а с другой — используют более дешёвые китайские модели с открытыми весами, которые можно адаптировать самостоятельно. В статье рассматриваются Kimi K3 от Moonshot AI, чипы для осязания в робототехнике и цепочки поставок оборудования для центров обработки данных — примеры сложных связей между США и Китаем в программном обеспечении, аппаратных компонентах и производстве. При этом важно учитывать, что данные о закупках и оценки рыночных преимуществ в статье основаны на словах опрошенных компаний, исследователей и сторонних отчётах и не являются общим выводом для всех компаний.[3]
Американские компании подхватывают моду на название «Super Intelligence»
Как сообщило издание Business Insider 11 октября, генеральный директор Salesforce Марк Бениофф заявил, что платформа AIForce будет переименована в SIForce; ранее Илон Маск также говорил о планах изменить соответствующие названия своих проектов. Обсуждая безопасность ИИ, Наделла использовал выражение «Super Intelligence». По данным издания, это связано с политикой правительства США, направленной на смену терминологии в сфере ИИ. Однако переименование продукта в «сверхинтеллект» не означает, что соответствующие модели уже во всех типах задач превосходят людей. Смена названия — это вопрос брендинга и политической риторики, а технические возможности нужно оценивать отдельно.[4]
Краткие новости
- Руководители компаний PolyAI и Otter, разрабатывающих голосовой ИИ, в интервью TechCrunch отметили, что, несмотря на заметный прогресс голосовых помощников, быстрое рассуждение, точность транскрипции и информирование пользователей о том, что они взаимодействуют с ИИ, по-прежнему остаются ключевыми сложностями для масштабного внедрения.[5]
- В последнем выпуске TechCrunch, посвящённом строительству центров обработки данных для ИИ, отмечается, что отказ Amazon и Microsoft от использования соглашений о конфиденциальности в ходе переговоров с некоторыми местными властями по поводу таких центров может повысить прозрачность. Однако это не снимет автоматически опасения местных жителей по поводу потребления электроэнергии и воды, а также последствий строительства.[6]
Мнение редакции
Примечательно, что сегодняшние новости, на первый взгляд не связанные между собой, указывают на одну тенденцию: ИИ вступает в этап, когда ему приходится учитывать ограничения реального мира. Модели должны не только уметь отвечать, но и допускать остановку и аудит; продукты должны предлагать новые способы взаимодействия и при этом быть по-настоящему надёжными; инфраструктуру для вычислений нужно не только быстро строить, но и объяснять местным жителям связанные с ней затраты и выгоды. Мы считаем, что в дальнейшем при оценке конкурентоспособности ИИ всё большее значение будут иметь надёжность, способность к внедрению и реальные результаты использования, а не только показатели производительности в рейтингах.
Источники
- Microsoft’s Satya Nadella says AI models need an ‘emergency brake’ — TechCrunch, просмотрено 2026-10-12
- Apple discloses deal to hire team and license tech from personalized podcast startup Huxe — TechCrunch, просмотрено 2026-10-12
- In the race for AI dominance, the U.S. relies on a surprising ally: China — The Washington Post, просмотрено 2026-10-12
- Trump's AI rebrand is catching on with tech leaders like Elon Musk and Satya Nadella — Business Insider, просмотрено 2026-10-12
- These execs think voice AI hasn’t reached its ChatGPT moment yet — TechCrunch, просмотрено 2026-10-12
- Can the AI industry persuade data center opponents by getting rid of NDAs? — TechCrunch, просмотрено 2026-10-12
