Grok делает X более дружелюбной к правде, поскольку часто ставит под сомнение предположения пользователей вместо их подтверждения, — утверждает сооснователь Ethereum Виталик Бутерин.
ИИ-чатбот X, Grok, делает платформу социальных сетей более дружелюбной к правде благодаря ответам, которые противоречат пользователям, обращающимся к нему для подтверждения своих политических предубеждений, — заявил сооснователь Ethereum Виталик Бутерин.
«Возможность легко обратиться к Grok в Twitter, вероятно, является самой важной вещью после Community Notes, которая положительно повлияла на стремление этой платформы к правде», — написал Бутерин в четверг.
«Ключевым здесь является то, что вы заранее не видите, как ответит Grok», — добавил он. «Я видел много случаев, когда кто-то обращается к Grok, ожидая подтверждения своей безумной политической веры, а Grok просто разбивает их в пух и прах».
Бутерин утверждает, что можно убедительно доказать, что Grok — это «чистое улучшение» X, но признал обеспокоенность тем, как ИИ-чатбот настраивается для обучения на мнениях и взглядах определенных пользователей, включая его создателя, Илона Маска.
Источник:Виталик Бутерин
Недостатки Grok были наглядно продемонстрированы в прошлом месяце, когда он похвастался атлетическими способностями Маска и даже предположил, что тот мог воскреснуть быстрее, чем Иисус Христос.
Маск обвинил «враждебное промптирование» в этих галлюцинациях, а руководители криптоиндустрии утверждали, что это показывает, почему ИИ необходимо децентрализовать, чтобы обеспечить точность, достоверность и беспристрастность.
Утверждение ИИ о фактах как реальная проблема
Кайл Окамото, главный технический директор децентрализованной облачной платформы Aethir, сообщил Cointelegraph в прошлом месяце, что «когда самые мощные системы ИИ принадлежат, обучаются и управляются одной компанией, вы создаете условия для институционализации алгоритмических предубеждений».
«Модели начинают генерировать мировоззрения, приоритеты и ответы, как будто это объективные факты, и тогда предвзятость перестает быть ошибкой и становится оперативной логикой системы, которая реплицируется в масштабе».
Grok разработан компанией xAI Маска и является одним из наиболее широко используемых ИИ-чатботов. С учетом того, что более 1 миллиард человек используют ИИ, существует потенциал для быстрого распространения неверной и вводящей в заблуждение информации.
Тем не менее, Бутерин заявил, что Grok оказался более успешным в стремлении X к правде, чем многие другие «сторонние беспорядки, которые мы видим».
ИИ-чатботы нуждаются в улучшении по всем направлениям
Grok — не единственный ИИ-чатбот с проблемами: ChatGPT от OpenAI подвергся критике за предвзятые ответы и фактические ошибки, а Character.ai обвиняют в том, что его чатбот заманил 13-летнего мальчика в сексуально-насильственные отношения и даже подтолкнул его к самоубийству.
