Запрещенные сайты будет искать искусственный интеллект

Сибирские ученые научили искусственный интеллект искать запрещенные сайты.

Ученые Института систем информатики (ИСИ) им. А. П. Ершова СО РАН научили искусственный интеллект находить запрещенные сайты, даже если те хорошо завуалированы. Программа способна отфильтровать данные и сделать по интернет-ресурсам собственные выводы, рассказали в научном центре. Ученые объединили нейронные сети с методами экспертов-лингвистов и специалистов по машинному обучению.

Программа, которую разработали в институте, интегрирует нейросети с моделями, основанными на знаниях экспертов по искусственному интеллекту. В итоге инструмент проверяет информацию, находя нелегальный контент. Также интеллект объясняет, почему считает его таковым.

«Идея проекта в том, что современные методы типа машинного обучения или нейронных сетей плохо справляются с поиском запрещенного контента. Злоумышленники могут использовать сленг при продаже наркотиков. Они называют их совершенно обычными словами, такими как „молоко“ или „корова“. Если блокировать эти слова, то будет заблокировано слишком много сайтов. Еще одна трудность — часто сообщения о продаже наркотиков размещаются на сайтах совершенно обычной тематики, например в комментариях к новостям», — комментирует разработку старший научный сотрудник лаборатории искусственного интеллекта ИСИ Елена Сидорова.

В будущем программу сможет использовать Роскомнадзор.

Обсудить на странице: вконтакте, фейсбук, твиттер