Microsoft объяснила, почему ИИ-бот в Bing путается в ответах и может выказывать агрессию
Microsoft запустила на прошлой неделе поисковик Bing с интегрированным чат-ботом ChatGPT на основе ИИ, разработанным компанией OpenAI, предоставив к нему доступ отдельным обычным пользователем. Как оказалось, ИИ может допускать ошибки при ответах и даже выказывать агрессию по отношению к задающим вопросы.
В одном случае он отказался сообщить, где можно посмотреть фильм «Аватар: Путь воды», поскольку по его мнению фильм ещё не вышел, утверждая, что сейчас на дворе 2022 год. Когда же пользователь указал на ошибку, ИИ-бот назвал его «неразумным и упрямым» и предложил завершить этот чат.
Microsoft опубликовала в блоге команды Bing сообщение с объяснением происходящего с чат-ботом, а также поделилась планами по решению проблемы. Компания признала, что не предполагала, что ИИ Bing будет использоваться для «общего открытия мира и социальных развлечений», добавив, что «длительные, расширенные сеансы чата из 15 или более вопросов» могут сбить ИИ-бот с толку. «Bing может стать повторяющимся или оказаться спровоцированным на то, чтобы давать ответы, которые необязательно полезны или не соответствуют задуманной нами общей атмосфере общения», — сообщила компания. Microsoft также отметила, что «модель иногда пытается ответить или отразить тон, в котором её просят дать ответы», а это может привести к стилю общения, который изначально не предполагался. В компании полагают, что эту проблему можно решить, обеспечив пользователям больший контроль над форматом общения.
Microsoft сообщила, что несмотря на имеющиеся проблемы, тестировщики в целом дали ИИ Bing хорошие оценки по цитированию и ссылкам для поиска, хотя всё же нужно повысить точность ответов касательно данных в режиме реального времени, например, результатов спортивных матчей в прямом эфире, а также относительно цифр финансовых отчётов.
Также будет добавлен переключатель, который даст пользователям «больше контроля над точностью и креативностью ответа» применительно к конкретному запросу.
Команда Bing поблагодарила пользователей за участие в тестировании, которое помогает улучшить продукт, вместе с тем выразив удивление по поводу того, что те проводят в чатах так много времени — иногда до двух часов.
Обговорення новини
Попередні новини
Топ-5 лучших холодильных витрин от компании Технофуд05:00 18.02.2023Холодильные витрины разных производителей отличаются дизайном, электронной системой управления и основными функциями. Мы проанализировали публикуемые отзывы покупателей, чтобы составить рейтинг лучших холодильных витрин на 2023 г.
Qualcomm представила уникальный модем Snapdragon X75 5G с агрегацией 10 несущих01:27 17.02.2023Компания Qualcomm представила модем Snapdragon X75 5G, который первым в мире предлагает агрегацию 10 несущих. Сам производитель говорит, что это первая система 5G Advanced-ready Modem-RF System.
Инновация в омоложении: эрбиевый лазер01:16 17.02.2023Лазерный эрбиевый пилинг постепенно заменяет собой процедуры шлифовки кожи углекислым лазером. Инновация объединила в себе несколько косметических эффектов - общее омоложение лица, лифтинг кожи, лечение морщин и акне, разглаживание кератозов, рубцов, растяжек, депигментацию и даже бесследное удаление новообразований и шрамов.
