Эта новость о том, что Роскомнадзор начнет использовать искусственный интеллект для поиска «запрещенки» в сети, вызывает целый шквал шуток и иронии. Да, конечно, ИИ — вещь мощная, но в данном контексте можно найти много забавных моментов.
Начнем с того, что представим мышление искусственного интеллекта по стоп-листу. Роскомнадзор ведь определенно захочет, чтобы ИИ находил и блокировал запрещенный контент.
А вот как он будет это делать? Может быть, он решит использовать свой «интеллект» для поиска ключевых слов типа «порнография», «наркотики» и т.д., но что если кто-то решил озаглавить свой пост «Сладкая вечеринка с друзьями»?
Автоматика попросту заблокирует этот пост, ибо «сладкая» — это же допустимая запрещенка!
А что делать с новостными сайтами, например? ИИ будет бить тревогу, видя слова о теракте или ограблении, не понимая контекста. Новость об автомобильной аварии тоже ведь за оправданная, но может стать поводом для блокировки. И вот тут уже возникает вопрос — где граница между «полезным» и «вредным» контентом?
Ведь у каждого свои представления об этом.
А вот что, если ИИ решит заблокировать весь контент, где упоминаются государственные структуры? Вдруг кто-то напишет статью о деятельности МЧС, и она тут же будет признана опасной и блокирована? Это уже кажется немного чересчур.
И еще одна интересная ситуация — рерайт.
Как ИИ будет определять рерайт информации? Может быть, он заблокирует кучу статей и заметок, где встретятся похожие предложения?
Например, если две разные статьи описывают одно и то же событие, но слова использованы в другом порядке, ИИ решит, что это плагиат? Лишний раз подчеркивается важность проверки информации людьми.
А теперь представим, что Роскомнадзор в итоге усовершенствует ИИ настолько, что он будет блокировать контент через час после публикации. Ведь фейковые новости распространяются быстро, не так ли? Тут можно увидеть картинку: пока пользователь пишет пост в соцсетях, ИИ уже взвешивает, стоит ли его опубликовывать.
Если наш ироничный взгляд на эту ситуацию перевести в реальность, то, конечно, использование искусственного интеллекта в работе Роскомнадзора может ускорить процесс поиска запрещенной информации. Это действительно полезно, когда речь идет о реально опасном контенте, таком как детская порнография или призывы к терроризму.
Но вот когда речь заходит о переходе границы и блокировке безобидных материалов — это уже вызывает некоторые сомнения.
В конечном счете, главное, чтобы Роскомнадзор и искусственный интеллект не перешли грань и не начали цензурировать информацию без должной проверки. Ведь свобода слова — это одно из основных прав человека.