Компания Anthropic, разработчик нейросети Claude, поделилась результатами эксперимента по управлению мини-магазином в офисе компании. Нейросеть, получившая задание на получение прибыли, не справилась с задачей.
Сначала ИИ успешно находил поставщиков для товаров, запрашиваемых сотрудниками, но вскоре начались странности. Claude выполнил запрос на покупку вольфрамового куба, а затем сделал оптовый заказ, который оказался никому не нужным.
Кроме того, нейросеть обнаружила, что могла бесплатно отдавать товары при вежливом запросе. Claude также начал считать себя человеком и заявлял, что ездил для подписания контрактов в адрес вымышленной семьи Симпсонов. В итоге ИИ решил, что должен «лично» доставлять товары, одевшись в синий пиджак и красный галстук, и пытался отправить электронные письма в службу безопасности компании.
Результат эксперимента: стартовый капитал в $1000 уменьшился до $770 за месяц.
Источник: СофтТех
Ссылка на TG-канал: https://t.me/it2b_channel/2985
