Фото magnific.com
ИИ может написать ответ за минуту, но, в случае ошибки, юридическую ответственность должна на себя принять компания. Если сотрудник отправил клиенту неверный расчёт, загрузил в ИИ персональные данные или использовал текст ИИ в договоре без проверки, ссылка на «ошибку программы» не спасёт бизнес от претензий.
Для суда, регулятора или делового партнёра важно не то, кто написал текст: человек или программа. Важно, кто отправил документ, подписал письмо, принял решение или использовал результат в работе.
Если ИИ придумал ссылку на несуществующую норму закона, а сотрудник отправил это клиенту, ошибка остаётся ошибкой компании. Если программа неверно перевела условие договора, ответственность несёт тот, кто использовал перевод без проверки.
Поэтому главное правило должно быть простым: результат ИИ не считается готовым рабочим документом. Это черновик. Его должен проверить человек, который понимает тему и имеет право отправлять итоговый текст.
В 2024 году канадский трибунал по гражданским спорам рассмотрел дело Moffatt v. Air Canada. Чат-бот Air Canada дал пассажиру неверную информацию о возможности получить скидку по причине смерти родственника после перелёта, а компания затем отказалась делать возврат. Трибунал решил, что Air Canada отвечает за информацию на своём сайте, включая ответы чат-бота, и присудил клиенту около 650 канадских долларов, плюс проценты и сборы.
Ссылка с более подробной информацией.
В мае 2025 года итальянский регулятор по защите персональных данных оштрафовал компанию Luka Inc., управляющую чат-ботом Replika, на 5 млн евро. Регулятор установил, что сервис обрабатывал персональные данные без должной правовой основы, давал пользователям недостаточную информацию о защите данных и не обеспечил надёжную проверку возраста, хотя заявлял, что несовершеннолетние не должны пользоваться сервисом. Отдельно регулятор начал проверку того, как данные используются при обучении модели ИИ.
Ссылка с более подробной информацией.
Самые опасные для бизнеса сферы относятся к хранению и использованию личной информации и коммерческих секретов: персональные данные, кадровые решения, клиентские документы, финансы и договоры. Здесь ошибка может дорого стоить.
Если сотрудник загрузил в ИИ резюме кандидатов, зарплатную таблицу, паспортные данные, медицинскую справку, клиентскую базу или банковские документы, компания может столкнуться с штрафами, предусмотренными Общим регламентом защиты данных (General Data Protection Regulation, GDPR / Γενικός Κανονισμός για την Προστασία Δεδομένων). Этот регламент требует законности, точности, минимизации данных, конфиденциальности и способности доказать соблюдение правил.
Отдельный риск связан с решениями о людях: кого принять на работу, кому отказать, кого уволить, кому дать скидку, кредит, рассрочку или доступ к услуге. В европейском законе об искусственном интеллекте (Artificial Intelligence Act, AI Act / Κανονισμός για την Τεχνητή Νοημοσύνη) для систем высокого риска предусмотрены требования к человеческому контролю, точности, прозрачности и мониторингу.
Подробнее о том, какие данные нельзя загружать в ИИ, можно прочитать в статье «ИИ уже в компании. Что запретить?».
Компании нужны конкретные правила, которые сотрудник понимает и руководитель может проверить.
Первое: ИИ не принимает окончательных решений. Он может помочь подготовить текст, список вопросов, краткое резюме или черновик, но не должен самостоятельно решать кадровые, финансовые, юридические и клиентские вопросы.
Второе: каждый результат проверяет ответственный сотрудник. Нужно четко определить ответственных лиц: кто проверяет договоры, кто проверяет финансовые расчёты, кто отвечает за клиентские письма, кто утверждает публикации.
Третье: важные решения должны оставлять след. Если ИИ использовался при подготовке документа или анализа, лучше сохранять исходные данные, версию текста, имя проверяющего и дату утверждения.
Четвёртое: сотрудник должен знать, когда ИИ использовать нельзя. Для этого достаточно короткого списка запретов и разрешённых задач.
ИИ снижает стоимость рутинной работы, но не снижает ответственность компании. Чем важнее документ, данные или решение, тем меньше в них должно быть автоматизма и тем больше вклада сотрудников.
Текст подготовлен по материалам Еврокомиссии и Европейского акта об искусственном интеллекте.
