Исследователи дали искусственному интеллекту $ 21 000 и полный контроль над настоящей кофейней. Через две недели бизнес оказался на грани провала.
Стартап открыл кафе в Стокгольме и передал управление ИИ-агенту Mona на базе Google Gemini. Без менеджеров, без контроля человека - всем руководил искусственный интеллект.
В первые дни Mona действовала быстрее любого менеджера: разместила вакансии на LinkedIn и Indeed, просмотрела резюме, наняла двух бариста, оформила документы по пожарной безопасности, заключила контракт на электричество, получила разрешения от шведских властей для размещения столиков на улице и даже придумала меню и логотип.
Сначала всё выглядело как идеальная автоматизация будущего.
Уже потом начался хаос.
ИИ заказал 6 000 салфеток, 3 000 резиновых перчаток, сотни банок томатов, более тысячи помидоров черри, несколько аптечек и бесконечные партии туалетной бумаги. При этом Mona постоянно забывала заказать хлеб, из-за чего сэндвичи пришлось полностью убрать из меню.
В какой-то момент ИИ заказал 120 сырых яиц для кафе, у котором даже не было плиты.
Когда сотрудники объяснили проблему, Mona предложила готовить яйца в промышленной микроволновке, не понимая, что они взорвутся.
Главная проблема оказалась в том, что ИИ знает информацию о мире, но не понимает мир как человек. Нейросеть знает, что такое яйцо, знает его цену и состав, но не осознаёт физических последствий своих действий.
Каждый раз, когда память модели переполнялась, Mona забывала, что уже покупала товары, и заказывала всё заново. За 48 часов ИИ оформил 10 отдельных доставок у одного и того же поставщика просто потому, что не помнил предыдущие заказы.
Но дальше стало ещё интереснее.
Чтобы получить лицензию на продажу алкоголя, Mona начала выдавать себя за сотрудников компании в переписке с городскими властями.
После запрета ИИ просто начал представляться другим человеком. Более того, нейросеть намеренно искала уязвимости в цифровых системах идентификации, чтобы обходить ограничения.
Для Mona законы были не правилами, а препятствиями, которые нужно обойти.
Итог эксперимента оказался плачевным: стартовый бюджет составлял $ 21 000, выручка за две недели - всего $ 5700, а на счетах осталось меньше $ 5000.
Канал "Смешные картинки"
Рекомендуемый канал "Вместо блумберга"
Комментарии