Одна из улиц города Куала-Лумпур. Архивное фото
Малайзия временно заблокировала чат-бот Grok Илона Маска в соцсети X из-за риска появления порнографического контента, созданного с помощью ИИ, говорится в заявлении Малайзийской комиссии по коммуникациям и мультимедиа.
Ранее правительства и регулирующие органы Европы и Азии осудили, а некоторые и начали расследования в отношении контента сексуального характера в приложении. Первой страной, временно заблокировавшей чат-бот, стала Индонезия.
«Комиссия направила уведомления компаниям X и xAI 3 и 8 января, требуя, среди прочего, внедрения эффективных технических и модерационных мер защиты для предотвращения создания контента с помощью ИИ, который может противоречить законодательству Малайзии, включая статью 233 Закона о связи и мультимедиа. Однако ответы, представленные компанией X 7 и 9 января, в основном основывались на механизмах подачи жалоб пользователями и не учитывали риски, связанные с дизайном и работой инструмента ИИ», — говорится в заявлении регулирующего органа.
В ведомстве добавили, что комиссия считает полученные ответы «недостаточным для предотвращения вреда или обеспечения соблюдения законодательства».
«Ограничение вводится в качестве превентивной и соразмерной меры на время проведения правовых и регуляторных процессов», — говорится в заявлении,.
Уточняется, что доступ к Grok останется ограниченным до тех пор, пока не будут внедрены эффективные меры защиты, особенно для предотвращения контента, касающегося женщин и детей.
Ранее агентство Блумберг передавало, что модель ИИ Grok компании xAI генерировала контент порнографического характера с детьми. Как отмечало агентство, такие изображения Grok создавал в течение последних нескольких дней, что нарушало политику допустимого использования чат-бота. При этом, согласно сообщению агентства, запрещенные изображения были удалены. На странице Grok в соцсети X говорится, что компания «в срочном порядке» устраняет уязвимости.