Microsoft добавит дополнительные элементы защиты для того, чтобы предотвратить использование искусственного интеллекта злоумышленниками. Они могут манипулировать ИИ и заставить его, например, производить вредоносный контент или красть конфиденциальные данные. Лидерство в сфере ИИ сделало Microsoft самой дорогой компанией в мире, и она пытается повысить доверие к своим продуктам и избежать повторения проблем конкурентов.
Детали
Microsoft добавит несколько новых настроек безопасности в Azure AI Studio — это сервис для разработчиков от OpenAI (создатель чат-бота ChatGPT), сообщила директор по ответственному применению ИИ Microsoft Сара Берд в блоге компании. Microsoft — крупнейший акционер OpenAI.
Microsoft, например, добавит инструмент, который сможет обнаруживать и блокировать внедрение зловредных инструкций в массив данных, на которых тренируется искусственный интеллект. Другая настройка позволит направлять «поведение» искусственного интеллекта, чтобы он давал более безопасные и ответственные ответы. Ещё одна функция позволит проверять уязвимость искусственного интеллекта перед попытками взлома. Наконец, Microsoft создаст инструмент, который будет уведомлять пользователей, если искусственный интеллект что-то «придумывает» — даёт информацию, не соответствующую действительности, — либо даёт ошибочные ответы, добавил Bloomberg.
Атаки на искусственный интеллект представляют собой «уникальный вызов и угрозу», заявила Сара Берд. По её словам, новые инструменты защиты созданы для того, чтобы выявлять подозрительные запросы и блокировать их в режиме реального времени. В феврале компания рассказывала о том, что некоторые пользователи намеренно «обманывают» алгоритмы её ИИ Copilot, чтобы добиться от него странных или оскорбительных ответов.
ИИ-предрассудки и ограничения
Microsoft стремится повысить доверие к её искусственному интеллекту, которым все больше пользуются и отдельные клиенты, и корпоративные заказчики, считает Bloomberg. Противоречивые ответы искусственного интеллекта могут стать причиной скандала и обернуться большим падением акций.
Так, в феврале Alphabet (владелец Google) пришлось на время отключить возможность создания изображений в её искусственном интеллекте Gemini. Компания заявила о «неточностях в генерации некоторых исторических изображений». До этого пользователи пожаловались, что ИИ упорно отказывается рисовать светлокожих людей и, например, в ответ на просьбу изобразить «немецкого солдата 1943 года» показал несколько изображений цветных людей в немецкой форме. Причём сначала алгоритм отказывался выполнять задачу, но пользователь легко обошел ограничение, намеренно добавив опечатку в слово «солдат».
Alphabet позже заявила, что функция создания изображений не вернется ещё несколько недель. Это привело к падению акций компании: инвесторы забеспокоились, что Alphabet может отстать от других разработчиков ИИ.
Что с акциями
Microsoft стала одним из лидеров рынка ИИ благодаря большим вложениям в OpenAI: компания инвестировала либо пообещала инвестировать примерно $13 млрд. Благодаря этому акции Microsoft подорожали, она опередила Apple и стала самой дорогой публичной компанией мира с капитализацией выше $3 трлн.
Вскоре после открытия торгов 28 марта акции Microsoft немного упали — до $419,12, что на 0,5% ниже последней цены закрытия. С начала 2024 года бумаги подорожали на 12% (по состоянию на окончание торгов 27 марта).
Аналитики уверенно советуют покупать акции Microsoft: 48 рейтингов из 57 — это Buy, ещё шесть — Overweight («выше рынка»), следует из данных FactSet. Трое аналитиков рекомендуют держать бумаги, советов продавать нет. Средняя целевая цена — $470,89: это на 11,7% выше последней цены закрытия.
