Нейросети на вооружении Роскомнадзора. Искусственный интеллект будет искать «запрещенку» в Рунете

Нейросети на вооружении Роскомнадзора. Искусственный интеллект будет искать «запрещенку» в РунетеЭта новость о том, что Роскомнадзор начнет использовать искусственный интеллект для поиска «запрещенки» в сети, вызывает целый шквал шуток и иронии. Да, конечно, ИИ — вещь мощная, но в данном контексте можно найти много забавных моментов.

Начнем с того, что представим мышление искусственного интеллекта по стоп-листу.

Роскомнадзор ведь определенно захочет, чтобы ИИ находил и блокировал запрещенный контент. А вот как он будет это делать? Может быть, он решит использовать свой «интеллект» для поиска ключевых слов типа «порнография», «наркотики» и т.д., но что если кто-то решил озаглавить свой пост «Сладкая вечеринка с друзьями»?

Автоматика попросту заблокирует этот пост, ибо «сладкая» — это же допустимая запрещенка!

А что делать с новостными сайтами, например? ИИ будет бить тревогу, видя слова о теракте или ограблении, не понимая контекста.

Новость об автомобильной аварии тоже ведь за оправданная, но может стать поводом для блокировки. И вот тут уже возникает вопрос — где граница между «полезным» и «вредным» контентом?

Ведь у каждого свои представления об этом.

А вот что, если ИИ решит заблокировать весь контент, где упоминаются государственные структуры? Вдруг кто-то напишет статью о деятельности МЧС, и она тут же будет признана опасной и блокирована?

Это уже кажется немного чересчур.

И еще одна интересная ситуация — рерайт. Как ИИ будет определять рерайт информации?

Может быть, он заблокирует кучу статей и заметок, где встретятся похожие предложения? Например, если две разные статьи описывают одно и то же событие, но слова использованы в другом порядке, ИИ решит, что это плагиат? Лишний раз подчеркивается важность проверки информации людьми.

А теперь представим, что Роскомнадзор в итоге усовершенствует ИИ настолько, что он будет блокировать контент через час после публикации. Ведь фейковые новости распространяются быстро, не так ли?

Тут можно увидеть картинку: пока пользователь пишет пост в соцсетях, ИИ уже взвешивает, стоит ли его опубликовывать.

Если наш ироничный взгляд на эту ситуацию перевести в реальность, то, конечно, использование искусственного интеллекта в работе Роскомнадзора может ускорить процесс поиска запрещенной информации. Это действительно полезно, когда речь идет о реально опасном контенте, таком как детская порнография или призывы к терроризму.

Но вот когда речь заходит о переходе границы и блокировке безобидных материалов — это уже вызывает некоторые сомнения.

В конечном счете, главное, чтобы Роскомнадзор и искусственный интеллект не перешли грань и не начали цензурировать информацию без должной проверки. Ведь свобода слова — это одно из основных прав человека.