ИИ для выявления дезинформации при стихийных бедствиях: противодействие массовым и изощренным «фейкам» – 10% случаев при землетрясении в Ното

Токио, 30 дек. (Jiji Press) -- Частные компании и университеты спешат разработать технологии для противодействия дезинформации, распространяющейся в интернете во время стихийных бедствий, таких как землетрясения и наводнения. Помимо проверки достоверности публикуемого контента, анализируется социальное влияние его распространения. Особое внимание уделяется тому, станет ли это эффективным средством предотвращения «лжи», которая становится все более масштабной и изощренной с распространением генеративного ИИ (искусственного интеллекта).

Девять компаний и академических учреждений, включая Fujitsu, NEC и Токийский университет, начали исследования и разработку интегрированной платформы для обнаружения, сбора, анализа и оценки дезинформации. Помимо контента публикаций, такого как текст и изображения, система собирает сопутствующую информацию, включая данные об авторах постов и местах отправки, используя генеративный ИИ для проверки противоречий и оценки степени влияния на общество. Разработку системы планируется завершить к концу марта 2026 года.

В июле был арестован служащий компании из префектуры Сайтама по подозрению в создании помех работе путем мошенничества – он разместил ложное сообщение в X (бывший Twitter), выдавая себя за пострадавшего от землетрясения на полуострове Ното. Дезинформация во время стихийных бедствий разнообразна: от мошеннических запросов о помощи до необоснованной критики правительства и администрации. «Дипфейки» – поддельные видео и изображения, создаваемые ИИ, становятся все более сложными, и профессор Ямагиши Джуничи из Национального института информатики, участвующий в разработке системы, предупреждает: «Мы приближаемся к ситуации, когда человек не сможет их распознать».

Существуют данные, указывающие на рост дезинформации. Согласно анализу Национального института информационных и коммуникационных технологий (NICT), из примерно 17000 японоязычных постов в X, опубликованных в течение 24 часов после землетрясения в Ното, среди 1091 сообщения о просьбах о помощи 104 (10%) были определены как вероятная дезинформация. Для сравнения, во время землетрясения в Кумамото в 2016 году был выявлен только один такой случай.

Ямамото Дай, директор по исследованиям Института данных и безопасности Fujitsu, решительно настроен: «Дезинформация о стихийных бедствиях может угрожать жизни людей, требуется срочное реагирование. Мы хотим противостоять этому с помощью ИТ-технологий».

[Авторское право The Jiji Press, Ltd.]