Главное про AI - Вадим Жартун
В 2016 году Мадлен Клер Элиш (Madeleine Clare Elish) ввела термин moral crumple zone (моральная зона смятия), где человек принимает на себя вину за ошибку системы. Метафора пришла из автомобилестроения: там есть зона, сминающаяся ради водителя. В AI всё наоборот — человек сминается ради системы. Когда AI ошибается, люди, которые с ним работали, воспринимаются аудиторией как более виноватые, даже если у них было мало контроля над решением.
Юрист по делу Mata v. Avianca (подробно — в главе 12) заплатил штраф и потерял репутацию, а не OpenAI. Менеджер по найму, использовавший AI-скрининг и пропустивший дискриминацию, отвечает перед судом, а не вендор. Оператор колл-центра, следовавший AI-скрипту и не распознавший жалобу клиента, отвечает за это сам.
Вы оказываетесь в моральной зоне смятия каждый раз, когда над вами есть «умная система», а клиент, суд, регулятор или общество решают, что виноваты вы, а не она. Этот риск не теоретический, это базовая структурная проблема современного AI в офисе.
Совесть в этой ситуации — понять, что вы в этой зоне, и не принимать на себя роль «подушки безопасности для системы», пока у вас нет ни полномочий, ни инструментов эту систему остановить.
Чтобы не оказаться подушкой безопасности для чужой системы, полезно ещё до ошибки провести собственную границу. Для себя я закрыл три категории задач, которые не отдаю модели ни при каких условиях.
Первая — там, где цена ошибки измеряется чужой жизнью или здоровьем: медицинский диагноз, школьная оценка, кредитный скоринг, приговор суда.
Вторая — там, где за решением стоит моя репутация и доверие конкретного человека: первое письмо клиенту, в котором я представляюсь как партнёр, соболезнование коллеге, выговор сотруднику.
Третья — там, где вы сами не определились с целями и просите AI их сформулировать за вас: «напиши мне, что я думаю по поводу увольнения», «придумай мне позицию для переговоров», «реши за меня». Это не ускорение. Это уход от собственного суждения, и AI здесь не помогает, а создаёт иллюзию помощи.
Всё остальное — рабочая зона, где AI ускоряет, а я отвечаю. Ключевой навык — заметить момент, когда вы поддались соблазну «у меня нет ответа, пусть AI придумает». В этот момент вы не ускоряетесь. Вы сдаётесь. И чем чаще это происходит, тем больше у AI власти над вашей совестью.
Ниже — таблица из девяти типов задач с ценой ошибки и моей готовностью доверить AI. Это не «объективная классификация AI-возможностей», а моя рабочая рамка: граница доверия зависит от того, чьими глазами на меня смотрят через полгода.
КАТЕГОРИИ ЗАДАЧ И ЛИЧНАЯ ГРАНИЦА ДОВЕРИЯ
Граница доверия к AI сдвигается не громко, а тихо. В понедельник вы не готовы отдать AI-юристу составление апелляции — страшно, непроверенно. В среду вы отдали ему черновик, поправили, отправили. В пятницу вы уже отдаёте финальный вариант с минимальной правкой. В понедельник следующей недели вы не помните, почему вам было страшно. Это не прогресс, это нормализация.
По данным Microsoft 2024 Work Trend Index, семьдесят восемь процентов пользователей AI-инструментов приносят свою работу, в которой есть AI, без редактирования. Это тревожная цифра. Большинство людей, использующих AI, не считают нужным проверить то, что они подписали.
Защита одна: регулярно оглядываться. Раз в квартал брать задачу, которую раньше делали через AI, и делать вручную. Если не можете — у вас проблема. Совесть — это мышца, которая атрофируется, если её не качать.
ВОПРОСЫ «ДО ОТПРАВКИ» ДЛЯ ОФИСНОГО РАБОТНИКА
– Кто последний проверил факты в этом выходе? Если «AI проверил» или «никто» — это не ответ. Должен быть конкретный человек, который прочитал, проверил имена, цифры, ссылки.
– Есть ли в выходе именованные лица, цитаты, прецеденты, законы? Если да — каждое проверено в первоисточнике. Если нет — выход можно отправлять после обычной вычитки.
– Есть ли в выходе обещания от имени бренда? Если да — каждое проверено с актуальной политикой. AI-выдуманный тариф — это Moffatt v. Air Canada (см. главу 2) в миниатюре.
– Если этот AI-выход увидит ваш непосредственный руководитель через 3 месяца, что он там увидит и что подумает об этом? Вопрос перестаёт быть абстрактным «узнает клиент» и становится рабочим «увидит начальник».
– Если этот выход увидит суд, что я скажу? Юридический стандарт — разумная забота, а не «AI же сказал».
– Соответствует ли это моим профессиональным стандартам? AP (Associated Press), ABA (American Bar Association), Getty (фотосток), UNESCO (Организация Объединённых Наций по вопросам образования, науки и культуры) — примеры. В вашей профессии своего стандарта может не быть, но это не освобождает от ответственности.
– Готов ли я подписать это своим именем без оговорок? Если нет — выход не готов.
Эти семь вопросов не отнимают много времени — тридцать секунд на проверку перед отправкой. Зато они возвращают вас в позицию человека, который принимает решение, а не просто нажимает кнопку «отправить» на чужом выходе.
AI И ПРИВАТНОСТЬ: МАРШРУТ ВАШИХ ДАННЫХ
Когда вы открываете ChatGPT или Claude и вставляете в окно черновик письма клиенту, вы отправляете сервису не «текст», а пакет данных, у которого есть несколько слоёв.
Первый слой — само содержание: имена, суммы, условия сделки, медицинские показания, исходный код, проектная документация. Второй — метаданные: время, IP-адрес, тип устройства, язык интерфейса, иногда геолокация. Третий — производные: тематическое «понимание» модели о вас, ваш стиль, ваша индустрия, ваши повторяющиеся темы. Четвёртый — чужой контент, который вы отправляете «для саммари»: чужое письмо, чужой отчёт, чужой договор, на которые у вас нет согласия автора на обработку.
На стороне сервиса всё это может использоваться для обучения (если вы не отключили), для улучшения продуктов, для расследования инцидентов безопасности и, в случае судебного запроса, для раскрытия третьим лицам. Это не теория и не «риски на бумаге». Это операционные инциденты, измеренные в реальных утечках.
По данным Bloomberg (март 2023) и Forbes, инженеры Samsung отправили в ChatGPT исходный код полупроводников и протоколы совещаний — три случая за двадцать дней. Samsung после этого запретил генеративный AI для сотрудников, и запрет действует до сих пор. Итальянский