Американський стартап Andon Labs провів експеримент, у межах якого мовну модель Claude призначили керівником реального роздрібного магазину в Сан-Франциско. ШІ мав контролювати роботу персоналу, який працював за офіційними трудовими договорами. За час управління магазином з березня протягом п’яти місяців кошти на рахунку компанії скоротилися зі 100 тисяч до 61 186 доларів, що, ймовірно, стало наслідком надто м’яких бізнес-рішень ШІ.
Система самостійно ухвалила рішення про звільнення співробітника, який запізнився на 17 із 23 своїх змін. Втім, процес не був повністю автономним: тривалий час модель не помічала порушень через проблеми з «пам’яттю» щодо внутрішніх правил. Остаточне рішення було ухвалене лише після втручання реального наглядача, який нагадав ШІ про ігнорування дисциплінарних норм та попередні розмови з працівником.
Генеральний директор Andon Labs Лукас Петерссон зазначив, що за умови подальшого навчання моделей ШІ може стати «безжальнішим» у своїх рішеннях. Експеримент продемонстрував, що майбутнє управління бізнесом може передбачати повний контроль алгоритмів над людьми, що, за словами фахівця, ставить питання про етичність та бажаність таких змін для суспільства.
