Дмитрий Пеньков Океан Тех: как ИИ рискует уничтожить источники, на которых учится и можно ли это назвать “кражей труда”
Внутри Microsoft и OpenAI понимали опасность еще несколько лет назад. Новые материалы по иску The New York Times показали: сотрудники обсуждали, не станет ли обучение искусственного интеллекта на миллионах публикаций «крупнейшей кражей труда в истории человечества». Там же возникло другое жесткое определение: большая языковая модель может оказаться продуктом, который уничтожает собственную цепочку поставок.
Пока это не решение суда и не признание компаний в нарушении закона. Вместе с тем для бизнеса сигнал уже прозвучал: модель может приносить прибыль одному участнику рынка, лишая дохода тех, кто создает знания для ее работы.
Как запускается «петля смерти»
Редакция платит журналистам, фотографам и юристам, проводит расследования, проверяет документы и отвечает за ошибки. Затем модель выдает пользователю краткий пересказ. Человек не открывает публикацию, сайт теряет аудиторию, подписку и рекламную выручку.
«ИИ не добывает факты из воздуха. За каждым точным ответом стоит чья-то фундаментальная работа: исследование, эксперимент, репортаж, инструкция или инженерная документация. Если система забирает готовый результат, скрывает источник и не возвращает создателю ни аудиторию, ни деньги, она начинает проедать собственную кормовую базу. Сначала это выглядит как рост эффективности, а затем превращается в дефицит проверенных знаний», – объясняет основатель и генеральный директор Океан Тех Дмитрий Пеньков.
Пустоту заполняет дешевый синтетический контент. Модели учатся на текстах других моделей, ошибки копируются, а первичные факты теряются. ИИ отвечает увереннее, но информационная среда становится грязнее.
«Открыто в интернете» не означает «можно использовать как угодно»
Доступность страницы не отвечает на вопросы о правах. Индексация, хранение копии, включение в обучающий набор и показ фрагментов могут регулироваться по-разному.
OpenAI заявляет, что обучение на доступных материалах соответствует fair use, модели преобразуют информацию, а дословное воспроизведение является редким сбоем. Издатели указывают на масштаб копирования и ущерб рынку. Пока спор идет, позицию любой стороны нельзя выдавать за установленный факт.
«Для технолога вопрос звучит шире, чем “разрешит ли это суд”. Нужно спросить, жизнеспособна ли экономика всей системы. Если поставщик данных исчезает, потому что новый сервис отнял у него трафик и выручку, модель теряет надежный источник. Устойчивый ИИ должен не обнулять авторство, а сохранять происхождение данных, показывать ссылки и строить понятные правила вознаграждения», – говорит Дмитрий Пеньков.
Внутри компании проблема становится еще опаснее
В корпоративном архиве смешаны собственные документы, лицензированные базы, переписка клиентов, материалы подрядчиков и публикации из интернета. Фраза «это лежит на нашем сервере» не означает, что компания вправе обучать на этом модель или показывать сведения всем сотрудникам.
Корпоративный ИИ начинается не с выбора модной нейросети, а с реестра данных: кто владелец, на каком основании используется массив, кому разрешен доступ и когда сведения должны быть удалены. Неясные источники изолируются, действия модели фиксируются в журнале аудита.
Документы не всегда нужно «зашивать» в веса модели. Управляемый поиск по корпоративной базе позволяет ИИ получать только разрешенные фрагменты, указывать источник и учитывать актуальную версию. Закончилась лицензия или закрыт доступ, материал перестает участвовать в ответах.
«В Океан Тех мы начинаем с исследования процессов и происхождения данных, а уже потом выбираем архитектуру. Корпоративная модель должна уметь ответить не только на вопрос пользователя, но и на вопросы службы безопасности: откуда взят этот факт, кто разрешил доступ, где хранится информация и какое действие было выполнено. Если таких ответов нет, перед нами не управляемый ИИ, а дорогой черный ящик», – подчеркивает Дмитрий Пеньков.
Скандал вокруг внутренних документов Microsoft и OpenAI важен не громкой формулировкой о краже. Он показывает, что даже создатели крупнейших систем видели конфликт между удобством ИИ и выживанием источников. Для ответственного бизнеса вывод простой: данные нельзя считать бесплатным топливом. Их происхождение, права, конфиденциальность и ценность должны быть частью архитектуры продукта. Иначе модель однажды окажется без качественных знаний, а компания, которая ее внедрила, с судебными претензиями и невозможностью объяснить, на чем был построен ее собственный «интеллект».