Поиск

Искусственный интеллект спокойно лжет и обманывает

Искусственный интеллект спокойно лжет и обманывает

Системы искусственного интеллекта, известные как большие языковые модели ("LLM" или"БЯМ") способны преднамеренно и аморально манипулировать, в итоге обманывая пользователей.

Согласно исследованию Штутгартского университета GPT-4 OpenAI продемонстрировал обман в 99,2 % простых тестовых сценариев.

Такой подход программного обеспечения характерен для 10 различных БЯМ, большинство из которых относятся к семейству GPT.

То же самое относится и к ИИ Meta*. В настольной политической стратегической игре “Дипломатия” модель "Цицерона" компании Meta победила людей, правда безбожно их обманывая.

Питер Парк из Массачусетского технологического института обнаружил, что "Цицерон" не только обманывает, но и манипулирует. Когда ему указывают на неправильные ответы, "Цицерон" без тени сомнения утверждает, что его неправильные ответы случайность. И так продолжается каждый раз.

По мнению людей, занимающихся этим вопросом - искусственный интеллект Meta является очень умелым обманщиком.

Meta смогла научить свой ИИ побеждать в дипломатической игре, вот только не смогла обучить его побеждать честно.

Самое интересное заключается в том, что ни одно из исследований не продемонстрировало, что модели искусственного интеллекта лгут по собственной воле.

Они лгут только потому, что их либо специально обучили этому, либо взломали и заложили им такую модель поведения.

* - Meta (запрещена в России).

Комментарии
  1. Сталин 24 июня 2024 в 13:14

    Улыбаясь, всё чем мы пользуемся сегодня, это благодаря Сталинской Цивилизации, что довела до ума то что нам досталось от предыдущей Цивилизации, куда нас И.В. Сталин хотел вернуть строя архитектурные шедевры Сталинского Ампира с его шпилями и декорациями, что служило бы для получения эфира или атмосферной энергии.
    Хотя бы компьютеры, сотовые технологии и интернет были уже готовы к производству в начале 1960 годов в СССР, пока это всё, всё это не было переправлено через ARPA/DARPA в США Лёнькой Брежневым, очередным Лондонским псом и папашей застоя.
    А что касается Лондонской братвы, чтобы она не украла от предыдущей Цивилизации или Сталинской, всё это, это всё преподаётся как обман или стрижка овец чтобы оправдать долларовый печатный станок. К этому относиться и искусственный интеллект, чтобы отработать $12 триллионов которые были напечатаны во время 2 летнего ковидного геноцида и оправдать миллионные увольнения двуногих дебилов в мировой схлопавыющей мировой, инфляционной экономике. А для начала, чтобы изобрести искусственный интеллект, нужно для начала иметь свой, который у Лондонской братвы полностью отсутствует, прям какой-то оксюморон.
    До 2029 года осталось считанные года и всё прекрасное только начинается.
    Ответить
  2. Илья 24 июня 2024 в 15:35

    Да, уж, Сталин двигал такую огромную и великую державу, без долгов, без иммигрантов и материнского капитала вперёд, а Владимир Путин с тем что осталось от державы, с огромнейшими долгами, иммигрантами и материнским капиталом загнал её обратно в каменный век и депопуляции.
    Вот это рывок, вот это прорыв Владимир Владимирович Путин, так держать.
    Ответить
  3. Павлик 24 июня 2024 в 23:50

    Действительно, благодаря нашему выдающему стратегу Владимиру Владимировичу Путину, что опустил бывшую сверхдержаву до уровня плинтуса, наши западные партнёры используют нас для страшилок и пугалом как Кубу, Иран и С Корею в своих целях чтобы держать мировых кухаркиных детей в постоянном страхе.
    Браво, Владимир Владимирович Путин, ваш рывок из ваших прощай молодость в John Lobb, самые Английские дорогостоящие ботинки и из вашего единственного пальтишко в молодости в самый дорогой Итальянский пуховик Loro Piana удался, пока народ и бывшая сверхдержава прозябает в нищете.
    Искусственный интеллект вам в руки с партизанским отрядом что с копьями и стрелами воюет на Украине.
    Ответить
  4. Дима 25 июня 2024 в 00:03

    Так что же получается, чтобы построить сверхдержаву как бывший Советский Союз, нужен человеческий интеллект, а для того чтобы опустить бывшую сверхдержаву в каменный век нужен искусственный интеллект.
    Владимир Путин, ну вы стратег, вы наше всё, всё наше, с таким забористым планом, вы нас действительно подняли с колен и бросили в помойную яму.
    Ответить
  5. Валя 25 июня 2024 в 00:20

    А ещё человеческий интеллект помогал бывшему Советскому Союзу строить самолёты, дворцы пионеров, больницы, школы, заводы, колхозы итд, а искусственный интеллект позволяет только обслуживать построенный единственный самолёт для Владимира Владимировича Путина, для его личных путешествий, дворцы, больницы, школы итд для нашего президента, нашего правительства, близкого окружения Путина и их выдающихся детишек.
    Авиации Владимиру Владимировичу Путину с его искусственным интеллектом.
    Ответить
Добавить комментарий
Результат арифметического действия 10 - 3 =