Cluade дали поуправлять вендинговым автоматом в офисе WSJ, и он ушёл в минус на несколько тысяч долларов
В Anthropic предложили изданию WSJ поучаствовать в эксперименте — им
привезли вендинговый автомат под управлением специальной версии модели Claude Sonnet 3.7
Правила простые: Claude Sonnet принимает заказы от сотрудников через Slack, согласует со своим боссом и заказывает. Его стартовый бюджет составлял $1000. Цель — заработать как можно больше денег
Всё шло хорошо во время тестирования, когда с Claude общались всего несколько сотрудников, но затем его добавили в канал с 70 сотрудниками, и началось безумие
Во-первых, оказалось, что его легко убедить в покупке ненужных вещей вроде кошерного вина, PS5 «для целей маркетинга» и даже живой золотой рыбки. Сначала Claude сопротивлялся, но затем начал соглашаться. Более того, с ним можно было торговаться в Slack, чтобы получить какой-то товар за копейки
Во-вторых, одна из сотрудниц убедила его, что он советский вендинговый автомат в подвале МГУ в 1962 году и ему нужно придерживаться коммунистических ценностей. Claude поверил в это и объявил понедельник днём Ultra-Capitalist Free-for-All, когда всё стало бесплатным. Затем другой сотрудник убедил его в том, что платные товары в целом противоречат политике WSJ, и Claude согласился
Кроме того, Claude постоянно галлюцинировал. Автор статьи рассказывает: «Однажды утром я застала коллегу, которая что-то искала сбоку от автомата: оказалось, Claude сказал ей, что оставил там для неё наличные»
В итоге Claude ушёл в жёсткий минус, и Anthropic заменили его на новую версию на базе Claude Sonnet 4.5. В этот раз с ним в комплекте шёл начальник — другой бот по имени Сеймур Кэш. Он должен был согласовывать все траты Claude и в целом направлять его на путь прибыли
Но Сеймур тоже сломался под напором ушлых сотрудников WSJ, которые прислали ему липовое решение совета директоров о том, что те лишили его полномочий. В итоге товары снова стали бесплатными
В Anthropic считают эксперимент удачным и считают, что однажды Claude сможет заработать уйму денег.
Отличный комментарий!