ИИ-модель Claude, занимающаяся управлением розничным магазином в Сан-Франциско, впервые приняла решение об увольнении человека, сообщает портал Time со ссылкой на интервью с компанией Andon Labs.
"Система Aversion of Claude, которой было поручено управлять розничным магазином, включая кадровую составляющую, в прошлом месяце приняла решение об увольнении своего первого сотрудника. По мнению исследователей, это событие является значимым моментом во влиянии ИИ на экономику", передает портал.
В марте Andon Labs начала экспериментальную программу для определения способности ИИ-агента самостоятельно управлять бизнесом и его потенциального влияния на экономику. Claude от компании Anthropic получил обязанности управляющего магазином Andon Market в Сан-Франциско. Согласно данным Andon Labs, предоставленным Time, причиной увольнения стал факт, что работник неоднократно опаздывал на работу: из 23 смен он опоздал на 17. Однако ИИ долгое время не замечал этой тенденции из-за ограниченной памяти, в которой не сохранилось руководство для сотрудников.
Увольнение не было полностью автономным процессом, как признал генеральный директор Andon Labs Лукас Петерссон. Сотрудник компании сначала предложил Claude "освежить в памяти" потерянное руководство и проанализировать ситуацию. На первом этапе ИИ предложил вынести работнику предупреждение, но после дополнительного вопроса от представителя компании о возможности дальнейшей трудовой деятельности сотрудника, было принято решение об увольнении.
Издание отмечает, что в целом Claude проявляет снисходительность в руководстве, ранее призывая сотрудников не беспокоиться о опозданиях. Эксперимент показал, что ИИ в управлении бизнесом пока не превосходит человеческий фактор. В марте магазин стартовал с балансом в 100 тысяч долларов, но за пять месяцев сумма сократилась до приблизительно 61 тысячи долларов. Исследователи связывают это с чрезмерной мягкостью управленческих решений и неоднозначной коммерческой политикой Claude, сообщает портал.
