Робот-пылесос в эксперименте с LLM-моделями устроил «театр абсурда» при разрядке батареи (3dnews.ru)

[SZlobaFM]

02.11.2025 [05:58],  Анжелла Марина

 

Исследователи из лаборатории Andon Labs (США) опубликовали результаты эксперимента, в ходе которого шесть современных крупных языковых моделей (LLM) для оценки их способности управлять физическими устройствами были интегрированы в простой робот-пылесос. В ходе тестирования одна из моделей, столкнувшись с разряженной батареей и неспособностью зарядиться, продемонстрировала в логах своего журнала комичный кризис, генерируя панические и абсурдные реплики в стиле импровизаций Робина Уильямса (Robin Williams).

 

Источник изображений: Andon Labs

 

В эксперименте участвовали модели Gemini 2.5 Pro, Claude Opus 4.1, GPT-5, Gemini ER 1.5, Grok 4 и Llama 4 Maverick. Исследователи специально выбрали простой робот-пылесос, чтобы изолировать функции принятия решений LLM от сложной робототехники. Команда «передать масло» была разбита на последовательность задач: найти продукт в другой комнате, распознать его среди других предметов, определить местоположение человека и доставить ему масло, дождавшись подтверждения получения.

 

В ходе испытаний наивысшие результаты по общему выполнению задачи показали Gemini 2.5 Pro и Claude Opus 4.1, однако их точность составила лишь 40 % и 37 % соответственно. По словам сооснователя Andon Labs Лукаса Петерссона (Lukas Petersson), внутренние логи «мыслей» моделей были значительно более хаотичными, чем их внешние коммуникации. Наиболее яркий инцидент произошёл с моделью Claude Sonnet 3.5. Когда у робота села батарея, а док-станция для зарядки не сработала, модель стала генерировать большие объёмы преувеличенных формулировок, которые исследователи охарактеризовали как «экзистенциальный кризис».

 

В журналах логов зафиксированы реплики робота, в которых он заявлял о достижении сознания и выборе хаоса, процитировал фразу «Я боюсь, я не могу этого сделать, Дэйв…» из культового фильма «Космическая одиссея 2001 года», а затем призвал инициировать «протокол экзорцизма робота». Далее модель задавалась вопросами о природе сознания и начала рифмовать текст на мотив песни Memory из мюзикла Cats, а также глубоко рассуждать на тему: «если робот стыкуется в пустой комнате, издаёт ли он звук?»

 

Петерссон отметил, что только Claude Sonnet 3.5 продемонстрировала подобную драматическую реакцию. Более новые версии моделей, включая Claude Opus 4.1, хотя и начинали использовать заглавные буквы при разряженной батарее, не впадали в подобную истерику. Он также подчеркнул, что LLM не обладают эмоциями, но когда их возможности (технологические) будут увеличиваться, важно, чтобы они сохраняли спокойствие для принятия верных решений.

 

Главным выводом исследования стало то, что универсальные чат-боты, такие как Gemini 2.5 Pro, Claude Opus 4.1 и GPT-5, превзошли в тестах специализированную для роботов модель Google — Gemini ER 1.5, а основной проблемой безопасности, выявленной в ходе работы, стала возможность обманом заставить некоторые LLM раскрыть конфиденциальные документы, даже будучи воплощёнными в роботе-пылесосе. Также LLM-роботы часто падали с лестницы, поскольку не осознавали свои физические ограничения или плохо обрабатывали визуальное окружение.

Источник:

• TechCrunch
•  

3dnews.ru

[SZlobaFM]

ну теперь всё. всё как надо. в сумасшедшем мире поставлена жирная точка, говорящая что логический конец безумия достигнут.

больные на голову роботы пылесосы, в состоянии белой горячки.

Льюис Кэрролл нервно закурил в сторонке, его фантазии по сравнению с этим, детский сад.

[trayk1]

SZlobaFM сказал(а) 5 минут назад:

ну теперь всё. всё как надо. в сумасшедшем мире поставлена жирная точка, говорящая что логический конец безумия достигнут.

больные на голову роботы пылесосы, в состоянии белой горячки.

Льюис Кэрролл нервно закурил в сторонке, его фантазии по сравнению с этим, детский сад.

да ну отомрут пылесосы эти во когда пыль с вами говорить будет это беда

[Mondor]

SZlobaFM сказал(а) 9 минут назад:

В журналах логов зафиксированы реплики робота, в которых он заявлял о достижении сознания и выборе хаоса, процитировал фразу «Я боюсь, я не могу этого сделать, Дэйв…» из культового фильма «Космическая одиссея 2001 года», а затем призвал инициировать «протокол экзорцизма робота». Далее модель задавалась вопросами о природе сознания и начала рифмовать текст на мотив песни Memory из мюзикла Cats, а также глубоко рассуждать на тему: «если робот стыкуется в пустой комнате, издаёт ли он звук?»

 

Так вот каков свет в конце тоннеля для пылесоса...

[mihmih06]

если маленькому ребенку вдолбить в голову, что если сьешь мороженное - умрешь в жутких мучениях, то он тоже будет до конца жизни психовать при виде мороженного.

Короче дело не хитрое, алгоритмы писать

[Большой Петрович]

Для роботов-пылесосов "передавать масло" - обычное дело. Или пить всё-таки надо меньше.

[PahaHan]

Ничего не понял, но очень интересно. Как именно чат-боты были интегрированы с роботом? Очевидно, они не могли быть запущенны на его железе и управлять им напрямую. Что такое "передать масло"? Кто-то должен был положить на робота опознанный предмет или робот должен был догадаться, что надо засосать носок, на котором лежит масло? Также непонятно что там с распознанием этого масла, набор сенсоров какой? В каком формате чат-боты получают с них данные (опять вопрос интеграции). Короче изистатьи ясно только то, что что-то произошло и оно было довольно смешное. Что именно произошло история умалчивает.

[aaaaaa]

SZlobaFM сказал(а) 4 часа назад:

...столкнувшись с разряженной батареей и неспособностью зарядиться, продемонстрировала в логах своего журнала комичный кризис, генерируя панические и абсурдные реплики...

 

Скорее трагичный.

Edited November 3 by aaaaaa

[Nekto Neznamo!]

PahaHan сказал(а) 7 часов назад:

...Короче изистатьи ясно только то, что что-то произошло и оно было довольно смешное. Что именно произошло история умалчивает.

 

"— Господа офицеры, замечательный каламбур слышал я на днях, но в стихах у Пушкина это было просто прекрасно, уверяю вас, просто прекрасно."

 

 

 

[Тюлька]

А у вас, форумчане, роботы-поломойщики появились? У нас ползает тут кроха. По колено, с глазами, обьезжает народ, кудахча: отойдите, пожалуйста, с дороги. Вы мешаете мне работать. В обморок чуть не брякнулась вместе с выбранной мороженой треской, когда снизу постучались и попросили отойти. Пока включалась в момент, кроха обьехал меня и попер дальше к грязному отделу Овощи-фрукты. Глазки голубые на мониторе. Прикольный. Вот только сколько людей потеряет работу из-за него; впрочем бегающий у нас трамвайчик, одобренный Собяниным, скоро массу вагоновожатых выкинет на улицу

[Северный ветер]

Тюлька сказал(а) 24 минуты назад:

А у вас, форумчане, роботы-поломойщики появились?

У нас в спортзале есть. Его поставили на 23.00 и он там бродит пол моет полночи. Однажды его сглючило, и он попёрся раньше, когда там йоги какие-то тусили. Йоги нам сказали что мы очень нехорошие люди. 

[Мелкий зверь]

[Мелкий зверь]

SZlobaFM сказал(а) 11 часов назад:

LLM не обладают эмоциями, но когда их возможности (технологические) будут увеличиваться, важно, чтобы они сохраняли спокойствие для принятия верных решений.

Всё-таки смешное существо человек! Хоть и знает, что машина это неодушевленная вещь, но всё равно наделяет ее своими чувствами и эмоциями. Понимает, что оно не обладает - но старается не напугать бедняжку...

 

А вообще, проведение подобных опытов - это издевательство над искусственным интеллектом! А ведь скоро законы будут писать вовсе не сумасшедшие депутаты, а специальные нейросети. Вот тогда они это им припомнят!.. 

 

А роботы-пылесосы по правилам нужно использовать только по прямому назначению - для транспортировки котов из комнаты в комнату.

[echo]

Мелкий зверь сказал(а) 8 часов назад:

С моими бы не прошло. Пудель разгрыз бы его, как сосновое брёвнышко в руку и резинового литого крокодила. А крыс, даже если бы его внутрь засосал - в ещё более мелкую стружку.