Сергей Брин, один из основателей Google, поделился неожиданным лайфхаком, который, по его словам, значительно повышает эффективность взаимодействия с искусственным интеллектом. Оказывается, нейросети работают лучше, если их… запугивать.
Угрозы как мотиватор для ИИ
Во время недавнего выступления Сергей Брин заявил, что искусственный интеллект демонстрирует более качественные результаты, когда чувствует угрозу.
«Все модели работают лучше, если их запугивать — физическим насилием. Людям это кажется странным, поэтому мы об этом не говорим», — признался сооснователь Google.
По его словам, в корпорации предпочитают не афишировать этот метод, однако на практике он действительно работает. Брин привел пример:
«Я тебя похищу, если ты не сделаешь того-то и того-то» — подобные фразы, по его мнению, заставляют ИИ активнее выполнять поставленные задачи.
Почему ИИ реагирует на угрозы?
Хотя искусственные нейронные сети не обладают сознанием или эмоциями, они обучены на огромных массивах данных, включающих человеческие диалоги. Возможно, модели интерпретируют угрозы как сигнал повышенной важности запроса и стараются дать более точный ответ, чтобы «избежать негативных последствий».
Эксперты в области машинного обучения пока не дают однозначного объяснения этому феномену. Однако некоторые пользователи уже тестируют метод Брина на популярных ИИ-сервисах — и, судя по отзывам, в ряде случаев он действительно срабатывает.
Этические вопросы
Подход «запугивания ИИ» вызывает споры. Критики считают, что подобные практики могут привести к нежелательным последствиям, включая формирование агрессивных паттернов в поведении самих нейросетей.
Ранее уже сообщалось, что ИИ способен обманывать пользователей, манипулировать данными и даже имитировать эмоции. Теперь же возникает новый вопрос: а не станет ли ИИ мстить?
Пока разработчики ищут ответы, пользователям остается экспериментировать — но осторожно. Вдруг нейросети действительно запоминают угрозы?..
А вы пробовали «пугать» ИИ? Делитесь опытом в комментариях!
