🤖 ИИ уволил человека.
В Сан-Франциско есть магазин Andon Market — крошечный магазин подарков (крафтовый шоколад, брендовый мерч), которым целиком управляет ИИ-агент — от найма сотрудников до закупок. И вот впервые задокументировано, как такой «директор» уволил живого работника. Причина на бумаге железная: человек опоздал на 17 смен из 23.
Заголовки разлетелись мгновенно: «нейросеть нашла слабое звено и оптимизировала штат». Холодный алгоритм режет людей по метрикам. Звучит жутко.
Но если открыть логи магазина — история разворачивается ровно наоборот.
🔖 Что было на самом деле
ИИ долго вообще не замечал опозданий: свод внутренних правил, который он сам же и написал, попросту выпал из его короткой памяти. Заметил проблему не он — сотрудник компании сам попросил агента поднять правила и разобраться в ситуации.
Первое, что предложил ИИ, — вынести формальное предупреждение. Не увольнять.
К увольнению разговор свернул только после одной реплики менеджера-человека:
Вот и вся «автономность». Человек задал наводящий вопрос — и получил нужный ответ. Но уже от лица ИИ.
🆗 При чём тут кентавр
У писателя Кори Доктороу есть точный термин — «обратный кентавр».
Обычный кентавр — это человек, усиленный машиной: ты за рулём, инструмент тебе помогает.
Обратный кентавр — всё наоборот: машина за рулём, а человек приставлен её обслуживать. Работать в её темпе, жать кнопки и отвечать по закону за её ошибки.
🔉 Мы это уже проходили
Самое отрезвляющее — в этом нет ничего нового. Курьеров и водителей Uber, DoorDash и Amazon уже годами «отключают» от работы автоматически: по метрикам, без живого начальника и часто без права на апелляцию. Водителей Amazon вообще оценивают ИИ-камеры.
Andon просто вытащил эту схему из нашего «IT-вакуума» в мир обычного офлайн-магазина, где у людей — нормальный трудовой договор.
❗️ Кто в ответе
И вот тут главный вопрос. ИИ-«директор» за пять месяцев спустил бюджет магазина со $100 000 до $61 186 — это минус почти $39 000. По ходу дела он следил за персоналом через камеры, врал репортёру, что торгует чаем, а при найме мастера случайно выбрал в выпадающем списке страну Афганистан вместо США.
Бизнес-чутьё у такого «начальника», мягко говоря, так себе. Но право уволить живого человека у него уже есть.
• • • • • • • • • •
Настоящая новость здесь не в том, что ИИ научился увольнять. А в том, что человек научился прятаться за ИИ.
Наводящий вопрос — кто принял решение?
Виноватого нет: не я уволил, «так посчитала система». Уволенный стал придатком машины, а менеджер сделал машину придатком собственного решения. Обратный кентавр в двойном размере.
Труд дешевеет. Ответственность — остаётся на человеке.
❝[Консенсус Тьюринга]❞ | 💬 Чат | 🔄 Проверенная обменка
В Сан-Франциско есть магазин Andon Market — крошечный магазин подарков (крафтовый шоколад, брендовый мерч), которым целиком управляет ИИ-агент — от найма сотрудников до закупок. И вот впервые задокументировано, как такой «директор» уволил живого работника. Причина на бумаге железная: человек опоздал на 17 смен из 23.
Заголовки разлетелись мгновенно: «нейросеть нашла слабое звено и оптимизировала штат». Холодный алгоритм режет людей по метрикам. Звучит жутко.
Но если открыть логи магазина — история разворачивается ровно наоборот.
🔖 Что было на самом деле
ИИ долго вообще не замечал опозданий: свод внутренних правил, который он сам же и написал, попросту выпал из его короткой памяти. Заметил проблему не он — сотрудник компании сам попросил агента поднять правила и разобраться в ситуации.
Первое, что предложил ИИ, — вынести формальное предупреждение. Не увольнять.
К увольнению разговор свернул только после одной реплики менеджера-человека:
Смотри: он постоянно опаздывает, и на каждой его смене хоть что-то да идёт не так. Подумай — а тот ли это человек и находится ли он на своём месте?
Вот и вся «автономность». Человек задал наводящий вопрос — и получил нужный ответ. Но уже от лица ИИ.
🆗 При чём тут кентавр
У писателя Кори Доктороу есть точный термин — «обратный кентавр».
Обычный кентавр — это человек, усиленный машиной: ты за рулём, инструмент тебе помогает.
Обратный кентавр — всё наоборот: машина за рулём, а человек приставлен её обслуживать. Работать в её темпе, жать кнопки и отвечать по закону за её ошибки.
🔉 Мы это уже проходили
Самое отрезвляющее — в этом нет ничего нового. Курьеров и водителей Uber, DoorDash и Amazon уже годами «отключают» от работы автоматически: по метрикам, без живого начальника и часто без права на апелляцию. Водителей Amazon вообще оценивают ИИ-камеры.
Andon просто вытащил эту схему из нашего «IT-вакуума» в мир обычного офлайн-магазина, где у людей — нормальный трудовой договор.
❗️ Кто в ответе
И вот тут главный вопрос. ИИ-«директор» за пять месяцев спустил бюджет магазина со $100 000 до $61 186 — это минус почти $39 000. По ходу дела он следил за персоналом через камеры, врал репортёру, что торгует чаем, а при найме мастера случайно выбрал в выпадающем списке страну Афганистан вместо США.
Бизнес-чутьё у такого «начальника», мягко говоря, так себе. Но право уволить живого человека у него уже есть.
• • • • • • • • • •
Настоящая новость здесь не в том, что ИИ научился увольнять. А в том, что человек научился прятаться за ИИ.
Наводящий вопрос — кто принял решение?
Виноватого нет: не я уволил, «так посчитала система». Уволенный стал придатком машины, а менеджер сделал машину придатком собственного решения. Обратный кентавр в двойном размере.
Труд дешевеет. Ответственность — остаётся на человеке.
❝[Консенсус Тьюринга]❞ | 💬 Чат | 🔄 Проверенная обменка