Компания Jigsaw, принадлежащая холдингу Alphabet, представила сервис Assembler. Он предназначен для распознавания модификаций на фотографиях, в том числе обработанных с помощью нейросетей.

Задача Assembler — выявлять фотографии с признаками монтажа и редактирования. По замыслу Jigsaw, эта программа упростит выявление фейковых снимков и позволит остановить их распространение. К разработке Assembler были привлечены исследователи из Калифорнийского университета в Беркли, Университета Мэрилэнда и Неаполитанского университета.

Assembler анализирует снимок и с помощью нейросетевых технологий выявляет признаки подделки по таким особенностям, которые могут быть незаметны человеку (например, недостаточно естественная тень от объекта). Если снимок фейковый, но не отредактирован, а является постановочным, Assembler не выявит в нём подделку.

В настоящее время нейросети широко используются для создания дипфейков — фотографий и видео с подменой лиц и голоса, причём отличить подделку от оригинала становится всё сложнее. Как мы видим, человечеству потребовалось создавать другие нейросети для того, чтобы выявлять поддельный контент.

Assembler — бесплатный инструмент, которым могут пользоваться сотрудники новостных агентств для выявления подделок из соцсетей. В открытый доступ эту программу выкладывать не планируется.