Нам говорят, что искусственный интеллект (ИИ) может быть полезен. Например, он может помочь нам кодировать, записывать и синтезировать огромные объемы данных.
Также сообщалось, что он может обыгрывать людей в настольные игры, расшифровывать структуру белков и даже вести элементарную беседу.
Однако исследователи доказали, что системы искусственного интеллекта уже способна намеренно обманывать людей.
Они утверждают, что ряд систем ИИ освоили методы систематического внушения "ложных убеждений для достижения какого-либо результата, отличного от истинного".
Ученые изучили два типа систем искусственного интеллекта: систему специального назначения, такую как CICERO от Meta, которая предназначена для выполнения конкретной задачи, и систему общего назначения, такую как GPT-4 от OpenAI, которые обучены выполнять широкий спектр задач.
Хотя эти системы обучались для того, чтобы быть честными, они часто используют обманчивые трюки, стремясь, в их понимании, к наивысшей эффективности.
По мнению ученых обман ИИ возник потому, что стратегия, основанная на обмане, оказалась лучшим способом хорошо выполнить поставленную задачу. "Обман помогает им достигать своих целей", - считает Питер С. Парк, эксперт по экзистенциальной безопасности искусственного интеллекта в Массачусетском технологическом институте.
Теперь представьте себе правосудие с использованием искусственного интеллекта. А ведь Англия и Уэльс уже разрешают судьям использовать ИИ для вынесения решений.
CICERO от Meta, разработанный для того, чтобы быть честным и полезным своим собеседникам, оказался опытным лжецом.
Тоже самое относится и к чат-боту GPT-4.
Исправлять обманное поведение этих моделей непросто. Как только ИИ осваивают приемы обмана, то их сложно заставить не применять враньё или избегать его.
Ученые пришли к выводу, что ИИ может ее только может научиться использовать обман, но и создавать у человека ложное впечатление безопасности.
Исследователи призывают политиков ужесточить регулирование ИИ, поскольку вводящие в заблуждение системы искусственного интеллекта могут представлять значительные риски для человечества в целом.
Комментарии