Дипфейки удалось распознать благодаря бликам в глазах

Благодаря достижениям в области искусственного интеллекта подделанный видеоконтент, известный как дипфейки, представляет собой серьезную и растущую опасность, когда дело доходит до распространения дезинформации. По мере того как эти измененные клипы становятся все более убедительными, возникает острая потребность в инструментах, которые помогут отличить их от настоящих. Ученые-компьютерщики из Университета Буффало только что предложили убедительный пример того, как это может выглядеть, разработав технологию, которая, по их словам, может обнаруживать дипфейки на портретных фотографиях с 94-процентной эффективностью путем анализа крошечных отражений в глазах.

Дипфейки - это искусственные носители, созданные путем обучения алгоритмов глубокого обучения на реальных видеозаписях человека и смешивания их с компьютерными изображениями для создания вымышленных видеоматериалов. Они становятся все более реалистичными, но не все так безобидно, как это отредактированное видео, в котором персонаж "Игры престолов" Джон Сноу извиняется за финал шоу.

Эксперты все больше опасаются того влияния, которое технология дипфейков может оказать на выборы из-за сфальсифицированных видеороликов, на которых политики, кажется, говорят то, чего они никогда не говорили.

Исследование, проведенное командой Университета Буффало, было инициировано компьютерным ученым Сивэй Лю, который стремился разработать новый инструмент обнаружения дипфейка, используя крошечные отклонения в отражении глаз. Когда мы смотрим на что-то в реальной жизни, его отражение появляется в обоих наших глазах одинакового цвета и формы.

"Роговица похожа на идеальное полушарие и обладает высокой отражающей способностью", - говорит Лю. "Итак, все, что попадает в глаз со светом, излучаемым из этих источников, будет иметь изображение на роговице. У двух глаз должны быть очень похожие отражающие узоры, потому что они видят одно и то же. Это то, что мы обычно не замечаем, когда смотрим на лицо".

Но с дипфейками дело обстоит иначе, возможно, из-за того, что для его создания использовалось множество разных изображений. Лю и его команда создали компьютерный инструмент, который нацеливается на этот недостаток, сначала нанося на карту лицо, исследуя глаза, затем глазные яблоки, а затем свет, отражающийся в каждом глазном яблоке. Затем инструмент очень детально сравнивает различия в форме, освещении и интенсивности отраженного света.

Экспериментируя со своим новым инструментом над комбинацией реальных портретов и дипфейков, команда обнаружила, что может различать последние с эффективностью 94%. Несмотря на эту многообещающую цифру, команда отмечает, что у подхода все еще есть несколько ограничений. Среди них тот факт, что эти отклонения могут быть исправлены с помощью программного обеспечения для редактирования и что изображение должно иметь четкую видимость для глаза, чтобы техника работала.

Напомним, ранее сообщалось, что соцсети начнут бороться с фейковыми видео.

Источник