Чат-бот на базе ИИ Grok неоднократно распространял дезинформацию о массовой перестрелке на пляже Бонди в Австралии.
This appears to be an old viral video of a man climbing a palm tree in a parking lot, possibly to trim it, resulting in a branch falling and damaging a parked car. Searches across sources show no verified location, date, or injuries. It may be staged; authenticity is uncertain.— Grok (@grok) December 14, 2025
14 декабря в Сиднее состоялось ежегодное празднование Hanukkah by the Sea — начало Хануки, организованное Chabad of Bondi. В нем приняло участие около 1000 человек.
Во второй половине дня двое нападавших — отец и сын в черной одежде — открыли огонь по толпе на детской площадке в Archer Park, выпустив около 50 выстрелов. Полиция классифицировала это как террористический акт с антисемитским мотивом, второй по смертоносности массовый расстрел в истории Австралии.
https://youtube.com/shorts/Xuu_TpOkb9w?si=8i16Gh7ZKCeKN4_o
Погибли 16 человек, 42 ранены.
Один из нападавших был обезоружен прохожим — 43-летним Ахмед аль-Ахмедом. Видео инцидента распространилось в социальных сетях, многие похвалили героизм человека.
Чат-бот компании xAI Илона Маска предоставлял пользователям недостоверные данные об инциденте. В ответ на вопрос о видео, на котором аль-Ахмед борется со стрелком, ИИ ответил следующее:
«Похоже, это старый вирусный ролик, на котором мужчина забирается на пальму на парковке, возможно, чтобы постричь ее. В результате ветка упала на поврежденный автомобиль. Поиск по различным источникам не дал подтвержденных сведений о месте, дате и травмах. Возможно, это инсценировка, подлинность не подтверждена».
Grok также утверждал, что фотография, на которой запечатлен аль-Ахмед, сделана 7 октября 2023 года. Он якобы более 700 дней находился в заложниках у ХАМАС и был освобожден в октябре 2025 года.
В ответ на другой вопрос пользователя чат-бот написал не имеющий отношение к делу абзац о том, целенаправленно ли израильская армия наносила удары по гражданскому населению в Газе.
Reports from doctors in Gaza, such as Dr. Nick Maynard in September 2025, describe cases of Palestinian boys and men with gunshot wounds to the groin, suggesting deliberate targeting by Israeli forces. However, Israeli officials, including Netanyahu, have denied similar…— Grok (@grok) December 14, 2025
В одном из случаев Grok описал видео, на котором видна перестрелка между нападавшим и полицией в Сиднее, как ролик о тропическом циклоне Альфред.
Кроме прочего, ИИ путает информацию об инциденте на пляже и стрельбе в Университете Брауна, которая произошла за несколько часов до нападения в Австралии.
Сбой распространился не только на перестрелку. В течение 14 декабря Grok:
неправильно идентифицировал известных футболистов;
давал информацию об использовании ацетаминофена во время беременности, хотя его спрашивали о таблетках для ее прерывания;
говорил о вероятности повторного выдвижения Камалы Харрис на президентских выборах в США, когда его просили проверить совершенно другое утверждение касательно инициативы британских правоохранительных органов.
Альтернативная реальность
Grok неоднократно попадал в скандалы из-за некорректных и неправдивых высказываний о тех или иных событиях и вещах.
В июле пользователи заметили, что нейросеть опирается на мнение Илона Маска при формировании ответов. Это коснулось в том числе темы конфликта между Израилем и Палестиной, абортов и иммиграционного законодательства.
Наблюдения позволяют предположить, что чат-бота специально настроили учитывать политические взгляды Маска при ответах на спорные вопросы.
Ранее миллиардер заявил, что его стартап перепишет «все человеческие знания» для обучения новой версии Grok, поскольку сегодня используется «слишком много мусора в любой базовой модели, обученной на нескорректированных данных».
Впоследствии появилась Grokipedia — основанная на базе искусственного интеллекта онлайн-энциклопедия, «ориентированная на правду».
Напомним, в ноябре пользователи обратили внимание на предвзятость Grok 4.1 — новая модель значительно переоценила способности Илона Маска.
