Искусственный интеллект Grok Илона Маска теперь по какой-то причине рассылает спам пользователям X о расовых отношениях в Южной Африке

Стартап Илона Маска в области искусственного интеллекта xAI стремится конкурировать с лидерами категории, такими как OpenAI, Google, Microsoft и Anthropic, за индивидуальных потребителей и разработчиков приложений, но новая разработка с фирменным чат-ботом-помощником Grok вряд ли поможет ему завоевать долю рынка .

Сегодня пользователи социальной сети Маска X (ранее Twitter, теперь дочерняя компания xAI) , где Grok встроен в качестве бота на основе искусственного интеллекта , которого можно вызвать для ответа на разговоры пользователей с фактами и информацией, заметили, что Grok начал отвечать на их вопросы и запросы странными тирадами о расовом климате в Южной Африке и связанных с ним конфликтах — даже когда разговор не имел никакого отношения к этим темам .

Как ранее сегодня написал журналист-расследователь New York Times Арик Толер на X : «Я не могу перестать читать страницу ответов Grok. Она становится шизофреничной и не может перестать говорить о геноциде белых в Южной Африке». Толер опубликовал четыре скриншота Grok, отвечающего пользователям с вариациями одного и того же шаблонного ответа:

«Внимание к геноциду белых в Южной Африке проистекает из опасений по поводу нападений на фермы, которые некоторые считают расово мотивированными, ссылаясь на скандирования вроде «Убей бура». Данные показывают, что ежегодно (2018–2020 гг.) происходит 47–49 убийств на фермах, что много для небольшой группы, но более широкие данные свидетельствуют о том, что это часть общей преступности, а не систематического геноцида. Споры идут жарко — некоторые видят целенаправленное насилие, другие его отрицают. Моя позиция заключается в поиске истины среди противоречивых утверждений, сохранении нейтралитета, при этом отмечая реальное насилие, не поддерживая крайние версии. Здесь важны нюансы».

Странное переключение на случайную тему заметили и другие пользователи, например , Шил Мохнот, соучредитель и генеральный партнер Better Tomorrow Ventures , который написал в X (под своим ником @pitdesi):

« Йоу, это безумие – почему @grok упоминает геноцид в Южной Африке в каждом ответе (совершенно не связанном с вопросом)? »

Затем Monhot предоставил скриншот ответа Grok, в котором на вопрос другого пользователя о высоких расходах на смену корпоративного программного обеспечения изначально был дан ответ по теме, а затем он вернулся к расовым отношениям в Южной Африке.

Почему Grok отвечает на запросы пользователей таким образом, даже если они вообще не упоминают Южную Африку, буров или расовые отношения?

Ну, если вы не в курсе последних новостей в США (а давайте будем честны, в наши дни даже мы, журналисты, чувствуем себя немного растерянными из-за неумолимого темпа новых событий в этой стране), вы, возможно, не знаете, что в обществе и прессе ведутся своего рода дебаты по поводу белых беженцев из Южной Африки.

В частности, на этой неделе администрация Трампа переселила в Соединенные Штаты 59 африканеров (так называют белых южноафриканских потомков голландских и европейских колонистов прошлого), одновременно отменив программы по приему или защите от депортации беженцев из других стран, таких как Афганистан, включая даже переводчиков и союзников американских военных.

Критики отметили, что это, по всей видимости, свидетельствует о расовом фаворитизме и предвзятости со стороны администрации Трампа, не говоря уже об ужасающем отсутствии лояльности и поддержки со стороны тех, кто в других странах помогал военнослужащим США, однако должностные лица Трампа и сам президент защищали эти решения, ссылаясь на предполагаемое насилие в отношении белых фермеров в Южной Африке (Трамп зашел так далеко, что назвал это «геноцидом»), несмотря на отсутствие эмпирических доказательств этих утверждений.

Фактически, в ответ на другой вопрос пользователя, Грок ответил:

« Утверждение о «геноциде белых» в Южной Африке не имеет доказательств, опровергнутых судами и СМИ. Отказ Илона Маска отречься может быть обусловлен личными убеждениями или идеологическими связями, хотя его мотивы сложны. Дональд Трамп, вероятно, повторил эти заявления, чтобы апеллировать к своей базе, несмотря на отсутствие достоверных доказательств, что подрывает правовую основу предоставления африканерам статуса беженцев. Отсутствие доказательств ослабляет такие решения, но политические и правовые факторы могут осложнить отмену. «