OpenAI и Meta предупредили о растущей угрозе использования дипфейков в судебных процессах

Соответствующие заявления прозвучали 15 октября на заседании Консультативного комитета по правилам доказывания Судебной конференции США, проходившем в Бостоне.

В обсуждении приняли участие представители технологической отрасли, научного сообщества и государственных структур. Основное внимание было уделено развитию генеративного искусственного интеллекта и возникающим трудностям при установлении подлинности цифровых доказательств.

Эксперты отметили, что современные технологии позволяют создавать реалистичные изображения, видеозаписи и аудиоматериалы, которые практически невозможно отличить от настоящих без специальных инструментов проверки.

Представитель OpenAI по вопросам политики Шира Андерсон заявила, что качество изображений, созданных искусственным интеллектом, продолжает повышаться. По её мнению, в будущем может не существовать универсального научного метода, позволяющего безошибочно определять происхождение цифровых материалов.

С аналогичной позицией выступила директор по управлению продуктами Meta Девин Нордер. Она отметила, что материалы, созданные современными передовыми моделями искусственного интеллекта, уже достигли уровня, при котором человек практически не способен самостоятельно отличить их от настоящих.

При этом, по словам представительницы Meta, создание подобных материалов больше не требует значительных финансовых затрат или продолжительного времени.

Участники заседания обратили внимание на то, что доступность технологий генеративного искусственного интеллекта может создать дополнительные трудности для судебной системы. В частности, поддельные записи могут использоваться для введения суда в заблуждение относительно обстоятельств рассматриваемых дел.

В настоящее время крупные технологические компании, включая OpenAI и Meta, разрабатывают инструменты для установления происхождения цифрового контента. К таким решениям относятся специальные цифровые метки и технологии подтверждения подлинности изображений и видеозаписей.

Однако, как отметила представитель OpenAI, отсутствие единой системы маркировки не позволяет гарантировать обнаружение всех материалов, созданных искусственным интеллектом. Различные разработчики применяют собственные технические решения, которые не всегда совместимы между собой.

Несмотря на быстрое развитие подобных технологий, количество зафиксированных случаев оспаривания судебных доказательств из-за подозрений в использовании дипфейков остаётся относительно небольшим.

Согласно исследованию Федерального судебного центра США, из 931 опрошенного судьи только 15 сообщили о случаях, когда одна из сторон судебного разбирательства оспаривала доказательства, утверждая, что они могли быть созданы с использованием технологии дипфейков.

При этом указанные данные не означают, что во всех 15 случаях факт использования искусственного интеллекта был установлен.

Консультативный комитет по правилам доказывания занимается изучением этой проблемы с 2023 года. В рамках обсуждения рассматриваются возможные изменения федеральных правил, регулирующих проверку подлинности представляемых в суд материалов.

Одним из рассматриваемых вариантов является введение нового правила 901(c). Согласно подготовленному проекту, сторона, оспаривающая доказательство, должна будет представить достаточные основания полагать, что материал является дипфейком.

Если такие основания будут представлены, сторона, предлагающая использовать соответствующее доказательство, должна будет подтвердить, что оно, вероятнее всего, является подлинным.

Вместе с тем среди представителей судебной системы отсутствует единое мнение о необходимости введения специальных правил для материалов, созданных искусственным интеллектом.

В частности, федеральный судья Валери Капрони призвала не торопиться с изменением законодательства, отметив, что действующие нормы уже запрещают представление сфальсифицированных доказательств и позволяют судьям рассматривать вопросы их достоверности.

Председатель Консультативного комитета, федеральный судья Джесси Фурман также обратил внимание на то, что, несмотря на многочисленные прогнозы о распространении дипфейков в судебных процессах, на практике таких случаев пока относительно немного.

По итогам обсуждения он распорядился создать специальный подкомитет, который продолжит изучение проблемы и возможных способов совершенствования правил проверки цифровых доказательств.

Таким образом, вопрос регулирования доказательств, созданных с применением искусственного интеллекта, остаётся на стадии рассмотрения. Окончательное решение о введении новых федеральных правил пока не принято.