Агенты, чат-боты и другие инструменты на основе искусственного интеллекта (ИИ) все чаще используются в повседневной жизни многими людьми. Так называемые агенты на основе большой языковой модели (LLM), такие как ChatGPT и Llama, стали впечатляюще беглыми в ответах, которые они формируют, но довольно часто предоставляют убедительную, но неверную информацию.
Исследователи из Токийского университета проводят параллели между этой проблемой и расстройством человеческого языка, известным как афазия, при котором страдающие могут говорить бегло, но делать бессмысленные или труднопонимаемые заявления.
Это сходство может указывать на лучшие формы диагностики афазии и даже дать представление инженерам ИИ, стремящимся улучшить агентов на основе LLM.
Эта статья была написана человеком, но использование ИИ, генерирующего текст, растет во многих областях.
Поскольку все больше людей начинают использовать и полагаться на такие вещи, все больше растет необходимость в том, чтобы эти инструменты предоставляли своим пользователям правильные и связные ответы и информацию.
Многие знакомые инструменты, включая ChatGPT и другие, кажутся очень беглыми в том, что они предоставляют.
Но на их ответы не всегда можно положиться из-за количества фактически выдуманного контента, который они производят. Если пользователь недостаточно осведомлен о рассматриваемой предметной области, он может легко ошибиться, предположив, что эта информация верна, особенно учитывая высокую степень уверенности, которую демонстрируют ChatGPT и другие.
«Невозможно не заметить, как некоторые системы искусственного интеллекта могут казаться понятными, но при этом часто совершать существенные ошибки», — говорит профессор Такамицу Ватанабэ из Международного исследовательского центра нейроинтеллекта (WPI-IRCN) при Токийском университете.
«Но что поразило мою команду и меня, так это сходство между этим поведением и поведением людей с афазией Вернике, когда такие люди говорят бегло, но не всегда понимают, о чем говорят.
Это побудило нас задуматься, могут ли внутренние механизмы этих систем искусственного интеллекта быть похожими на механизмы человеческого мозга , пораженного афазией, и если да, то каковы могут быть последствия».
Для исследования этой идеи команда использовала метод, называемый анализом энергетического ландшафта, метод, изначально разработанный физиками, стремящимися визуализировать энергетические состояния в магнитном металле, но недавно адаптированный для нейронауки.
Статья опубликована в журнале Advanced Science.
Они изучили закономерности активности мозга в состоянии покоя у людей с различными типами афазии и сравнили их с внутренними данными нескольких общедоступных LLM.
И в своем анализе команда действительно обнаружила некоторые поразительные сходства.
То, как цифровая информация или сигналы перемещаются и обрабатываются в этих моделях ИИ, во многом соответствует тому, как ведут себя некоторые мозговые сигналы в мозге людей с определенными типами афазии, включая афазию Вернике.
«Вы можете представить себе энергетический ландшафт как поверхность с мячом на ней.
Если есть изгиб, мяч может скатиться вниз и остановиться, но если изгибы пологие, мяч может катиться хаотично», — сказал Ватанабэ.
«При афазии шар представляет состояние мозга человека. В LLM он представляет собой непрерывный паттерн сигнала в модели, основанный на ее инструкциях и внутреннем наборе данных». Исследование имеет несколько последствий.
Для нейробиологии оно предлагает возможный новый способ классификации и мониторинга таких состояний, как афазия, на основе внутренней активности мозга, а не только внешних симптомов.
Для ИИ это может привести к лучшим диагностическим инструментам, которые помогут инженерам улучшить архитектуру систем ИИ изнутри. Хотя, несмотря на обнаруженные исследователями сходства, они призывают не делать слишком много предположений.
«Мы не утверждаем, что чат-боты наносят вред мозгу», — сказал Ватанабэ. «Но они могут быть заперты в своего рода жесткой внутренней схеме, которая ограничивает то, насколько гибко они могут использовать сохраненные знания, как при рецептивной афазии.
Смогут ли будущие модели преодолеть это ограничение, еще предстоит увидеть, но понимание этих внутренних параллелей может стать первым шагом к более умному и заслуживающему доверия ИИ».
Рубрика: Техно. Читать весь текст на android-robot.com.
"Брак должен строиться эмоциональной близости". Вера Брежнева высказалась о браке после развода с Константином Меладзе Вера Брежнева высказала своё мнение о браке после развода с 62-летним Константином Меладзе."Я поняла основу, на которой брак должен строиться изначал...
Как безопасно купить автомобиль: особенности и этапы, плюсы обращения в DSS Group Покупка автомобиля – всегда радостное и в то же время волнительное событие, к реализации которого нужно подходить серьезно и основательно. Чтобы выбр...
Рефинансирование кредитной карты: ключевые преимущества, основные этапы процедуры Кредитные карты являются удобными инструментами, дающими возможность распоряжаться денежными средствами по мере необходимости. Однако вследствие непр...
Тревожное расстройство: новейший подход к терапии Photo by Hailey Reed on Unsplash Всем знакомо чувство тревоги. Наш организм посылает сигнал, предупреждающий об опасности и призывающий принять необх...
Психология Прибыльного Трейдера: ЧЕК-ЛИСТ [подробный план по шагам] Психология трейдера — ключевой элемент, который отличает убыточного «игрока» от стабильного профессионала. Ранее на этом сайте мы уже говор...
Паттерны DBLHC и DBHLC | Price Action Сегодня продолжим рассматривать разворотные паттерны Прайс Экшн — DBLHC и DBHLC. Использовать в трейдинге их совсем не сложно, поэтому эта стра...
Где купить цифровую видеокамеру в Москве? Все цифровые камеры создают цифровые изображения, которые можно сохранить при необходимости на компьютере. Они выполняют быструю съемку и передачу из...
Расход воды в системах очистки: особенности работы мембранной фильтрации Современные технологии водоподготовки позволяют получать питьевую воду превосходного качества. Наиболее эффективным методом считается обратный осмос,...
БГУ имени академика И.Г. Петровского: История, достижения и современные образовательные инициативы История университета восходит к 1930 году, когда был основан Новозыбковский государственный педагогический институт. Брянский государственный универс...
Улицы Брянска, увековеченные именами героев-воинов Брянск — город с богатой историей, который активно помнит и чтит своих героев. Около 60 улиц города носят названия, связанные с Великой Отечественной...
Советник Делимханова изнасилова мать двоих детей ВЧК-ОГПУ: ВЧК-ОГПУ стало известно о том, как московские полицейские и следователи категорически отказываются возбуждать дело об изнасиловании в отнош...
Горняки против кремлевских миллиардеров Как стало известно телеграм-каналу ВЧК-ОГПУ и Rucriminal.info Белгородский областной суд оставил в силе беспрецедентно жесткий приговор в отношении В...
Девушка Павла Дурова опубликовала новое фото с ним на фоне слухов, что он проводит время с другой Девушка Павла Дурова опубликовала новое фото с ним на фоне слухов о том, что он проводит время в Париже в компании с другой. Снимок с миллиардером 24...
"Передали по наследству". В сети обсуждают назначение внука Зураба Церетели главой Российской академии художеств Василий Церетели назначен на пост президента Российской академии художеств, сообщила пресс-служба РАХ. Ранее эту должность занимал его дед, известный...
Поездка с риском для жизни: смолянин «налетел» на неожиданное препятствие на дороге в центре города Крышка люка, на которую наехал молодой человек, больно ударила не только по авто, но и по бюджету горожанина. Максим, герой нашей истории, — об...
Точечные светильники: идеальное решение для стильного интерьера Точечные светильники сегодня занимают особое место в оформлении интерьеров, сочетая функциональность и эстетическую привлекательность. Они помогают с...
Углерод-углеродные композиты в двигателестроении: технологии будущего Углерод-углеродные композитные материалы (УУКМ) становятся важной частью современного двигателестроения, обеспечивая высокую прочность и устойчивость...
Оформление визы в Саудовскую Аравию: всё, что нужно знать Саудовская Аравия привлекает путешественников своими культурными богатствами, историческими достопримечательностями и современными мегаполисами. С 20...
Поддоны в Москве: оптимальное решение для логистики и хранения Поддоны — ключевой элемент в организации эффективной логистики и складского хозяйства. Эти простые, но функциональные конструкции помогают стандартиз...
Санитарные услуги для чистоты и безопасности
В современном мире поддержание чистоты и гигиены в жилых и рабочих пространствах становится приоритетной задачей. Санитарно-эпидемиологические слу...
В Гагарине подрядчик сорвал сроки капремонта моста На совещании, проведенном главой района, принято решение «регулярно мониторить ход выполнения работ» В Гагарине подрядчик сорвал срок капит...
За туалет на даче будет налог: дачников схватили за горло новым законом — придётся переносить или убрать всё За туалет на даче будет налог: дачников схватили за горло новым законом — придётся переносить или убрать всёУ владельцев загородных участков появилос...
Положила зубную пасту в сливной бачок и не нарадуюсь: блестит как зеркало: про ёршик забыла Положила зубную пасту в сливной бачок и не нарадуюсь: блестит как зеркало: про ёршик забыла Вы тратите время на ежедневное мытьё унитаза? Попробуйте ...
Как безопасно купить автомобиль: особенности и этапы, плюсы обращения в DSS Group Покупка автомобиля – всегда радостное и в то же время волнительное событие, к реализации которого нужно подходить серьезно и основательно. Чтобы выбр...
Рефинансирование кредитной карты: ключевые преимущества, основные этапы процедуры Кредитные карты являются удобными инструментами, дающими возможность распоряжаться денежными средствами по мере необходимости. Однако вследствие непр...
Цены на нефть растут на фоне падения запасов нефти в долларах и США Нефть выросла в среду на фоне ослабления доллара, сокращения запасов сырой нефти в США и того, что Великобритания одобрила еще одну вакцину от корона...
Авито усиливает присутствие в сегменте красоты Авито, крупнейшая онлайн-площадка объявлений, объявила о запуске Авито Красоты — нового направления внутри сервиса Авито Услуги, которое будет сфокус...
Около 65 тысяч жителей Верхневолжья активно используют функции приложения «Госуслуги.Дом» В Тверской области уже около 65 тысяч жителей активно используют функции приложения «Госуслуги.Дом». Наиболее востребованы у граждан сервисы направле...
Наши в Каннах: как Ксения Собчак, Лена Ленина, Дарья Коновалова и Марк Эйдельштейн провели время на фестивале На Лазурном Берегу Франции продолжается 78-й Каннский кинофестиваль, где голливудские звёзды и другие селебрити выгуливают модные образы на красных д...
Песни Кадышевой, танцы и гимн России: как Лера Кудрявцева отпраздновала свой 54-й день рождения с Долиной, Басковым, Газмановым и Королёвой 19 мая телеведущей Лере Кудрявцевой исполнилось 54 года. В честь этого она устроила вечеринку, куда пригласила многих звёзд. Среди них были Игорь Кру...
Наши в Каннах: как Ксения Собчак, Лена Ленина, Дарья Коновалова и Марк Эйдельштейн провели время на фестивале На Лазурном Берегу Франции продолжается 78-й Каннский кинофестиваль, где голливудские звёзды и другие селебрити выгуливают модные образы на красных д...
Песни Кадышевой, танцы и гимн России: как Лера Кудрявцева отпраздновала свой 54-й день рождения с Долиной, Басковым, Газмановым и Королёвой 19 мая телеведущей Лере Кудрявцевой исполнилось 54 года. В честь этого она устроила вечеринку, куда пригласила многих звёзд. Среди них были Игорь Кру...
Тревожное расстройство: новейший подход к терапии Photo by Hailey Reed on Unsplash Всем знакомо чувство тревоги. Наш организм посылает сигнал, предупреждающий об опасности и призывающий принять необх...
Биржа криптовалют Binance Тому, кто хочет торговать криптовалютой, зарабатывая на этом, нужна надёжная биржа. Это обеспечит спокойствие и уверенность в сохранности денег. Сред...
Что такое платеж Роялти? Платеж роялти это регулярное вознаграждение за использование интеллектуальной собственности. Он применяется в сфере франчайзинга и лицензирования. Ро...
В Клинцах Александр Богомаз и Николай Якушенко встретились с партактивом «Единой России» 19 мая в городе Клинцы Брянской области состоялась первая встреча участников предварительного голосования по кандидатурам для последующего выдвижения...
«Хай, Раша!» — Дакота Джонсон и Адрия Архона передали привет России Американские актрисы Дакота Джонсон и Адрия Архона в эксклюзивном интервью корреспонденту «Известий» Сергею Сычеву передали привет России...
Клубника резко выросла в цене в России Сезон клубники, который только начался в России, уже поразил жителей многих городов ценами. Если сравнивать с прошлым годом, то подорожание почти вдв...
Наши в Каннах: как Ксения Собчак, Лена Ленина, Дарья Коновалова и Марк Эйдельштейн провели время на фестивале На Лазурном Берегу Франции продолжается 78-й Каннский кинофестиваль, где голливудские звёзды и другие селебрити выгуливают модные образы на красных д...
Песни Кадышевой, танцы и гимн России: как Лера Кудрявцева отпраздновала свой 54-й день рождения с Долиной, Басковым, Газмановым и Королёвой 19 мая телеведущей Лере Кудрявцевой исполнилось 54 года. В честь этого она устроила вечеринку, куда пригласила многих звёзд. Среди них были Игорь Кру...
Тревожное расстройство: новейший подход к терапии Photo by Hailey Reed on Unsplash Всем знакомо чувство тревоги. Наш организм посылает сигнал, предупреждающий об опасности и призывающий принять необх...