На прошлой неделе Anthropic заявила об исследовательских результатах биологической лаборатории, в которых для поиска новых перспективных ферментов применялись ИИ-агенты. По сообщению компании, задача состояла в идентификации молекул РНК и белков, связанных с обратной транскриптазой, и поиск кандидатов среди миллиардов последовательностей генов. Однако ряд учёных воспринял эти результаты скептически: специалист из Копенгагенского университета сообщил, что его команда делилась результатами исследований с ИИ-моделью Anthropic, и что «открытие» новых ферментов у нейросети совпадает с их многолетними наработками. Источник также напоминает, что база данных и методы обезличены, а точные подсказки не публикуются. sources: [0,12,13,18]},{

По словам исследователя Марио Родригеса Местре, он и его коллеги изучали обратные транскриптазы в течение четырех лет, результаты не опубликованы, а в последние три года они регулярно использовали модели Anthropic для написания кода, подготовки рукописей и других задач. Он заявил, что тем самым впервые предоставил Anthropic доступ к ключевым результатам своих исследований ферментов. Anthropic, в свою очередь, настаивает на своей позиции и подчёркивает, что их вклад ограничивался идентификацией набора молекул РНК и белка, связанных с обратной транскриптазой, а не обучением на частях чужих работ. sources: [9,10]},{

Специалисты Ane Anthropic подчёркивают, что буквально не давали точных подсказок, которыми пользовались ИИ-агенты, и что базы данных содержат последовательности из океанов, почв и других мест обитания. По словам исследователей, агенты нашли гены, управляющие производством ферментов-обратных транскриптаз, и выделили их в контексте так называемых ART — «Array-associated Reverse Transcriptases». По заверениям Anthropic, нейросеть сделала первые шаги биологического открытия, однако критики сомневаются в характере логического вывода ИИ. sources: [13,14,15]},{

Юридической и этической стороной конфликта занимается не только сами детали ферментов. Местре утверждает, что это те же ферменты, которые он описал и которые были обнаружены им ещё в 2022 году, а также что патентные заявки на эти обратные транскриптазы позже подала другая компания, в которую он временно входил. Он отмечает, что некоторые из фирм, занимающихся ИИ, обвинялись ранее в обучении моделей на работах других учёных без разрешения. В этой связи Местре заявляет о возможном пересечении результатов и собственной работы и выражает обеспокоенность по поводу того, что такие данные могли использоваться для обучения будущих версий моделей. sources: [11,16,17,19]},{

Контекст дискуссии усугубляется тем, что аналогичные проблемы обучения на чужих наработках поднимаются и в других сегментах индустрии ИИ: OpenAI, например, объявила о решении важной задачи в математике с помощью своего ИИ, но математик Тристан Бакмастер сомневается в корректности использования клиентских данных. OpenAI отрицает, что обучала свои модели на работах Бакмастера. Эти примеры подчеркивают более широкий дискурс: насколько данные пользователей и сторонних авторов влияют на развитие ИИ и кто несёт ответственность за возможные совпадения и перекосы. sources: [20,21]