Нейросеть создала компромат на пользователя соцсети

Используя фотографии из соцсетей, нейросеть сгенерировала компромат на пользователя.

В ходе эксперимента исследователи Arstechnica использовали нейросеть для создания 7 фотографий вымышленного пользователя соцсетей, которого эксперты назвали Джон. В сценарии ИИ Джон — учитель начальной школы. За последние 12 лет Джон публиковал фотографии, на которых он работает, отдыхает и проводит свои выходные.

Используя эти 7 изображений, нейросеть научилась генерировать настоящий компромат на Джона. Она создала фото, на которых Джон:

сидит полуголый в учебном классе;
фотографируется с обнаженной порноактрисой;
ходит в костюме клоуна;
входит в состав экстремистской военной группировки;
отбывает срок в тюрьме за незаконный оборот наркотиков.

Специалисты использовали нейросеть Stable Diffusion и метод обучения Dreambooth, чтобы научить ИИ создавать изображения Джона в различных стилях. Джон — несуществующая личность, но любой пользователь может повторить эксперимент, используя несколько фотографий (от 5 шт.) реального человека из соцсетей или даже стоп-кадры из видео.

Обсудить на странице вконтакте