В понедельник Google анонсировала своего чат-бота с искусственным интеллектом Bard — конкурента ChatGPT от OpenAI, который должен стать более широко доступным для общественности в ближайшие недели. Но у бота не очень хорошее начало, и эксперты отмечают, что Bard допустил фактическую ошибку в своей первой демонстрации.
GIF-файл, которым поделился Google, показывает, как Бард отвечает на вопрос: О каких новых открытиях космического телескопа James Webb я могу рассказать своему 9-летнему ребенку? Взамен Бард предлагает три пункта, в том числе тот, в котором говорится, что телескоп сделал самые первые снимки планеты за пределами нашей Солнечной системы.
Однако ряд астрономов в Твиттере указали, что это неверно и что первое изображение экзопланеты было сделано в 2004 году — как указано на сайте NASA. Даже Брюс Макинтош, директор обсерваторий Калифорнийского университета в Калифорнийском университете в Санта-Круз, отреагировал на ошибку:
Говоря как человек, сфотографировавший экзопланету за 14 лет до запуска JWST, вам кажется, что вы должны найти лучший пример?
Как отмечают эксперты, основной проблемой чат-ботов с искусственным интеллектом, таких как ChatGPT и Bard, является их склонность уверенно заявлять неверную информацию как факт. Системы часто "галлюцинируют", то есть выдумывают информацию, потому что они по сути являются системами автозаполнения.
Вместо того, чтобы запрашивать базу данных проверенных фактов, чтобы ответить на вопросы, они обучаются на огромных массивах текстов и анализируют шаблоны, чтобы определить, какое слово следует за следующим в любом заданном предложении. Другими словами, они вероятностны, а не детерминистичны — черта, из-за которой их часто называют "генераторами чуши".
Конечно, Интернет уже полон ложной и вводящей в заблуждение информации, но проблема усугубляется желанием Microsoft и Google использовать эти инструменты в качестве поисковых систем. Там ответы чат-ботов приобретают авторитет потенциальной всезнающей машины.
Microsoft, которая недавно продемонстрировала свою новую поисковую систему Bing на основе искусственного интеллекта , попыталась предотвратить эти проблемы, возложив ответственность на пользователя.
Bing работает на базе искусственного интеллекта, поэтому возможны сюрпризы и ошибки. Обязательно проверяйте факты и делитесь отзывами, чтобы мы могли учиться и совершенствоваться!
Представитель Google Джейн Парк, в ответ на вопросы целого ряда изданий и экспертов сказала:
Это подчеркивает важность тщательного процесса тестирования, который мы начинаем на этой неделе в рамках нашей программы Trusted Tester. Мы объединим внешние отзывы с нашим собственным внутренним тестированием, чтобы убедиться, что ответы Bard соответствуют высокой планке качества, безопасности и обоснованности реальной информации.