В Казахстане предложили ужесточить ответственность за использование дипфейков

По словам депутата, технологии искусственного интеллекта открывают большие возможности для развития страны, но одновременно несут и серьёзные риски. «Я лично стал жертвой такой технологии - моё изображение и голос были полностью подделаны и использованы в ролике с просьбой о деньгах. Смонтировано настолько искусно, что даже близкие не сразу поняли подделку», - отметил Пономарев.

Он подчеркнул, что подобные случаи могут привести к масштабным последствиям, если фальшивые видео или заявления будут касаться государственных деятелей. «Это уже угроза национальной безопасности», - заявил депутат.

С учётом стремительного роста социальной инженерии и распространения технологий искусственного интеллекта, депутат потребовал от Министерства искусственного интеллекта и Министерства внутренних дел действовать на опережение и принять комплекс мер, а именно:

1. вменить в обязанности центра мониторинга и экспертизы цифрового контента – обеспечение и оперативное выявление дипфейков и их блокировку;

2. разработать систему подтверждения подлинности цифровых изображений и видеоматериалов, особенно в государственных информационных системах и официальных медиа. Этот инструмент должен быть доступен не только судам, но и каждому гражданину, который захочет проверить изображение на подлинность;

3. провести широкую информационную кампанию по обучению граждан методам распознавания дипфейков и защите от цифрового мошенничества.

Кроме того, фракция AMANAT готовит поправки в законодательство, предусматривающие ужесточение наказания за неправомерное использование дипфейков и ограничение сфер применения синтетических продуктов искусственного интеллекта.