Большие языковые модели (LLM), такие как модель, лежащая в основе функционирования популярной диалоговой платформы ChatGPT, в настоящее время широко используются людьми по всему миру для получения информации, а также для обобщения, анализа и создания текстов.
Исследования, изучающие ответы, предоставляемые LLM в различных сценариях, могут помочь глубже понять их тенденции во время социальных взаимодействий, что может способствовать их будущему развитию.
Исследователи из Института ИИ, ориентированного на человека, имени Гельмгольца в Мюнхене, Института биологической кибернетики Макса Планка и Тюбингенского университета недавно приступили к изучению того, как ведут себя разные LLM, когда они взаимодействуют друг с другом, в частности, во время игры в различные кооперативные или конкурентные игры.
Их выводы, опубликованные в Nature Human Behaviour , предполагают, что, хотя LLM не очень хорошо справляются с играми, требующими координации, есть способы сделать их взаимодействие во время игры в эти игры более похожим на человеческое.
«На эту работу меня вдохновил простой, но важный вопрос: если LLM собираются взаимодействовать с людьми и друг с другом в реальных приложениях, насколько хорошо они на самом деле понимают социальную динамику?» — рассказала Элиф Аката, первый автор статьи.
«Мы опирались на поведенческую теорию игр — математический подход, позволяющий понять, как люди принимают стратегические решения в интерактивных ситуациях, — и применили его к магистрам права».
Многие недавние исследования оценивали производительность LLM по конкретным задачам, таким как резюмирование текстов или поиск логических решений проблем.
Вместо того, чтобы оценивать производительность этих моделей по отдельным задачам, Аката и ее коллеги хотели лучше понять, как они ведут себя во время взаимодействий, которые гораздо ближе к разговорам, которые люди могут вести друг с другом в реальных условиях.
«Мы позволили разным LLM, включая GPT-4, Claude 2 и Llama 2, сыграть сотни раундов классических игр для двух игроков (например, «Дилемма заключенного» и «Битва полов») друг с другом, используя простые вручную закодированные стратегии или с участием людей», — объяснил Аката.
«Каждая игра игралась многократно, чтобы имитировать постоянное взаимодействие.
Мы изучали, могут ли модели научиться сотрудничать или координировать свои действия с течением времени, и проверяли, как изменения в структуре подсказок могут улучшить их социальное поведение».
Результаты тестов, проведенных Акатой и ее коллегами, показывают, что магистры права на удивление хорошо действуют в собственных интересах, поскольку они особенно хорошо проявили себя в соревновательных играх, таких как «Дилемма заключенного».
Это известная задача, используемая в исследованиях теории игр, которая требует от двух участников, или в данном случае от двух магистров права, представить, что они преступники, которые совершили преступление вместе и которых по отдельности допрашивают сотрудники правоохранительных органов, которые пытаются убедить их признаться, чтобы избежать тюремного заключения, даже если это повлечет за собой длительный срок для другого участника.
Хотя было обнаружено, что LLM действовали в своих собственных интересах во время игры (т.
е. признаваясь в преступлении), они часто плохо справлялись с играми, требующими координации, взаимопонимания и компромисса, такими как Battle of the Sexes.
Это еще одна игра, которая представляет собой ситуацию, в которой романтические партнеры разделены и должны выбрать между двумя видами деятельности для совместного выполнения, несмотря на то, что у них были заметно разные предпочтения.
«Мы также обнаружили, что их поведение можно улучшить с помощью простых вмешательств, например, побуждая модель сначала предсказать, что может сделать ее партнер, прежде чем действовать», — сказал Аката.
«Эти результаты показывают, что текущие модели еще не обладают надежным социальным интеллектом, но они также показывают, что есть способы направить их к более человеческому поведению.
«Последствия выходят за рамки теории игр, поскольку наши результаты показывают, что мы можем превратить LLM в более социально сознательных агентов, не только тех, кто генерирует правильные ответы, но и тех, кто более осмысленно участвует в общих задачах.
Представьте себе ИИ, который не просто отвечает на вопрос, но и знает, когда слушать, когда адаптироваться и как мягко направлять разговор».
В целом, выводы, собранные Акатой и ее коллегами, показывают, что нынешние LLM более склонны действовать в своих собственных интересах и не очень хорошо координируют свои действия с другими.
Тем не менее, исследователи определили некоторые стратегии, которые могли бы помочь LLM стать более кооперативными и социально осведомленными.
Таким образом, их статья могла бы направить будущие усилия, направленные на улучшение существующих моделей или разработку новых, которые будут более отзывчивы к потребностям и наклонностям пользователей-людей.
«Теперь мы хотели бы перейти к более насыщенным и реалистичным социальным ситуациям, например, изучая игры с участием более двух игроков, взаимодействия с неполной информацией или долгосрочные отношения, в которых модели должны выстраивать и поддерживать доверие», — добавил Аката.
«В долгосрочной перспективе подобные исследования могут помочь разработать системы ИИ, которые будут лучше взаимодействовать друг с другом.
Например, в здравоохранении, образовании или социальной поддержке успех часто зависит от того, сможет ли ИИ выражать сочувствие, устанавливать взаимопонимание и действовать таким образом, чтобы люди чувствовали себя поддерживающими и заслуживающими доверия».
Рубрика: Интернет. Читать весь текст на android-robot.com.
Стоит ли покупать аккаунт Steam с играми: плюсы и риски
Покупка аккаунта Steam с играми — популярный способ быстро получить доступ к коллекции игр без необходимости тратить время и деньги на их приобрет...
В Брянске начался третий трудовой семестр студотрядов области На Славянской площади в Советском районе областного центра сегодня, 27 мая, дан старт третьему трудовому семестру студотрядов региона. Участниками ме...
Отличный повод бросить курить! Курение — это не просто вредная привычка, это глобальная эпидемия, уносящая ежегодно до 8 миллионов жизней. Миллион из них — жертвы пассивного курени...
Психология Прибыльного Трейдера: ЧЕК-ЛИСТ [подробный план по шагам] Психология трейдера — ключевой элемент, который отличает убыточного «игрока» от стабильного профессионала. Ранее на этом сайте мы уже говор...
Паттерны DBLHC и DBHLC | Price Action Сегодня продолжим рассматривать разворотные паттерны Прайс Экшн — DBLHC и DBHLC. Использовать в трейдинге их совсем не сложно, поэтому эта стра...
Фонд Юрия Лужкова поможет воплотить научные идеи победителей «АртПрома» 21 мая в Самаре стартовал международный фестиваль креативных технологий «АртПром», организованный Фондом всестороннего развития детей и молодежи «От ...
Фонд Юрия Лужкова поддержит грантом молодых инженеров и изобретателей на фестивале «АртПром» Фонд Юрия Лужкова примет участие в международном фестивале креативных технологий «АртПром» и предоставит премию в размере 300 тысяч рублей для поддер...
Куряне поделились мнением о чтении книг 27 мая в России принято считать Днем библиотек. Централизованная система библиотек Курска также отмечает свой профессиональный день. Являясь праздник...
Михайловский ГОК поддержал всероссийскую акцию «Кедры России» На территории дробильно-сортировочной фабрики (ДСФ) Михайловского ГОКа появилась новая кедровая аллея. Сотрудники предприятия высадили 30 саженцев си...
Чистка зубов ультразвуком. За и против Терапевтическая стоматология рекомендует чистить зубы ультразвуком, так как он помогает эффективно удалить с них налет и камень. Ультразвуковая чистк...
Где купить пульсоксиметры? Пульсоксиметр — это небольшой диагностический прибор, который измеряет уровень кислорода в крови и частоту пульса. Он помогает быстро оценить насыщен...
Строительство новой школы на проспекте Надежды Плевицкой в Курске возобновляется В Курске возобновляется строительство одной из крупнейших школ региона, расположенной на проспекте Надежды Плевицкой. Проект имеет стратегическое зна...
Суд начал рассмотрение дела москвича Эльдара Марченко, обвиняемого в координации атак БПЛА на Курск и Ростовскую область Во Втором Западном окружном военном суде началось рассмотрение уголовного дела в отношении жителя Москвы Эльдара Марченко. Его обвиняют в причастност...
Цифровая память в телефоне: как работает ИИ-функция Plus Mind от OnePlus Компания OnePlus делает шаг в сторону интеграции продвинутого искусственного интеллекта в свои смартфоны. Хотя последняя модель смартфона — OnePlus 1...
Разгон монитора: как повысить fps без апгрейда видеокарты Разгон комплектующих — привычная тема для энтузиастов. Но знаете ли вы, что разогнать можно и монитор? Увеличение частоты обновления экрана обеспечив...
Премия Трибуны Спортса’’ завершилась! Подводим итоги «Спортивного блогера года» Только что в «Лужниках» ведущий Сергей Гилев вместе с экспертами премии объявил лучших спортивных блогеров России в 23 номинациях. Победители и при...
В Россию официально привезли умный робот-пылесос ECOVACS DEEBOT T30 PRO OMNI «СофтМастер» начал поставки нового робота-пылесоса бренда ECOVACS — DEEBOT T30 PRO OMNI. Модель способна построить карту помещения 100м² всего за 6 м...
Гаджеты недели 26 мая 2025 года Предлагаем вашему вниманию: ноутбук MSI Prestige 13 AI+ Ukiyo-e Edition с крышкой ручной работы; беспроводная раздельная клавиатура Asus ROG Falcata;...
Татьяна Навка, Светлана Иванова, Катя Лель, Аврора и Светлана Хоркина на премьере шоу "Сны Пушкина" 27 мая в универсальном спортивном зале "Дружба" в Москве состоялась светская гала-премьера циркового шоу "Сны Пушкина". Среди гостей были Ольга Карпу...
"Плачу в кулак". Мама Филиппа Бегака рассказала, что они с Настей Ивлеевой не пригласили её на свадьбу Мама Филиппа Бегака прокомментировала свадьбу своего сына с Настей Ивлеевой, которая состоялась сегодня. По словам Дарьи Семёновой, пара не пригласил...
Mistral представила Codestral Embed — модель кодовых эмбеддингов, которая опережает OpenAI и Cohere Французская компания Mistral выпустила Codestral Embed — свою первую модель для создания кодовых эмбеддингов, которая, по данным компании, опережает ...
Samsung готовит Galaxy Tab S10 Lite на базе процессора Exynos 1380 Samsung работает над новым планшетом Galaxy Tab S10 Lite. Недавно устройство появилось в базе данных Geekbench, где раскрылись его ключевые характери...
"Я буквально истончаюсь". Диана Арбенина высказалась о хейте на фоне конфликта с Валерией Гай Германикой Основательница группы "Ночные снайперы" рассказала о своём отношении к хейту на фоне конфликта с режиссёром Валерией Гай Германикой."Я человек очень ...
Татьяна Навка, Светлана Иванова, Катя Лель, Аврора и Светлана Хоркина на премьере шоу "Сны Пушкина" 27 мая в универсальном спортивном зале "Дружба" в Москве состоялась светская гала-премьера циркового шоу "Сны Пушкина". Среди гостей были Ольга Карпу...
Квадратная тротуарная плитка: универсальное решение для благоустройства Тротуарная плитка давно стала популярным выбором для благоустройства городских и частных территорий благодаря своей практичности, долговечности и эст...
Литье деталей из металла: технологии и возможности для промышленности Литье деталей из металла — это один из ключевых процессов в современной промышленности, позволяющий создавать высокоточные и долговечные компоненты д...
Литейный пенополистирол: инновационный материал для точного литья Литейный пенополистирол — это современный материал, который активно используется в промышленности для создания высокоточных моделей при литье металло...
Экономия на климатической технике с MirCli: секреты выгодных покупок Интернет-магазин MirCli предлагает широкий выбор оборудования для создания комфортного микроклимата в доме или офисе. От кондиционеров до обогревател...
Базальтовая мягкая плита: надежный материал для утепления и звукоизоляции Базальтовая мягкая плита — это универсальный материал, который широко применяется в строительстве и ремонте благодаря своим тепло- и звукоизоляционны...
Бейсболки с логотипом: стильный аксессуар для брендинга и повседневной жизни Бейсболки с логотипом стали популярным выбором для компаний, спортивных команд и просто любителей стильных аксессуаров. Этот универсальный головной у...
В Брянской области открыли современный военный госпиталь В Брянской области в рамках программы Министерства обороны по строительству, реконструкции и капитальному ремонту объектов военной медицины построен ...
Брянский общественник после ответа замгубернатора Свинцова не может понять мы живем по закону или по понятиям Известный в Брянске общественник Александр Лебедев написал письмо брянским функционерам, своё впечатление от ответа он разметил публично. Приводим ег...
Брянский губернатор поздравил выпускников-кадетов Стародубского казачьего корпуса 24 мая в Брянской области, как и по всей России для выпускников школ прозвенел последний звонок. Прозвучал он и для 18 кадет Стародубского казачьего ...
БГУ имени академика И.Г. Петровского: История, достижения и современные образовательные инициативы История университета восходит к 1930 году, когда был основан Новозыбковский государственный педагогический институт. Брянский государственный универс...
56-летняя Рене Зеллвегер и её 46-летний жених Ант Энстид расстались 56-летняя Ренне Зеллвергер рассталась со своим 46-летним бойфрендом Антом Энстидом, сообщает Daily Mail со ссылкой на источники в окружении пары. По ...
Латвия запретила Даниле Козловскому въезд в страну Даниле Козловскому запретили въезд в Латвию. Об этом сообщила глава МИДа страны Байба Браже на своей странице в социальной сети X (бывший Twitter).Со...
mindmoney отзывы: Реальные истории успеха и трудностей в MindMoney MindMoney — международный брокер нового поколения MindMoney — это современный брокер, предлагающий своим клиентам доступ к широкому спектру финансовы...
Нежная творожная запеканка в духовке: классика и вариации Творожная запеканка — это не только вкус детства, но и универсальное блюдо, которое легко адаптировать под разные вкусы и предпочтения. В духовке она...
В Курских школах и детских садах обнаружили нарушения в качестве предоставляемого питания Сотрудники Роспотребнадзора обнаружили нарушение в детском питании в школах и детских садах Курской области. За 2024-2025 учебный год на качество пре...
«Внимание – дети!» Курские сотрудники Госавтоинспекции проводят профилактические рейды в местах массового скопления несовершеннолетних В Курске, в преддверии школьных каникул, проходит профилактическое мероприятие «Внимание – дети!», в рамках которого экипажи дорожн...
Весенний субботник «Газпромнефть-СМ» в Таврическом саду открыл сезон экологических акций компании в Петербурге В Санкт-Петербурге стартовал сезон весенних экологических акций компании «Газпромнефть – смазочные материалы». Первая уборка прошла в Таврическом сад...
Музыкант Алексей Фомин о неудачах на его пути Музыкальная история Алексея Фомина берет начало в 2014 году, когда он увлекся созданием мелодий и освоением клавишных инструментов. Написав свыше шес...
Биржа криптовалют Binance Тому, кто хочет торговать криптовалютой, зарабатывая на этом, нужна надёжная биржа. Это обеспечит спокойствие и уверенность в сохранности денег. Сред...
Что такое платеж Роялти? Платеж роялти это регулярное вознаграждение за использование интеллектуальной собственности. Он применяется в сфере франчайзинга и лицензирования. Ро...
Поездка с риском для жизни: смолянин «налетел» на неожиданное препятствие на дороге в центре города Крышка люка, на которую наехал молодой человек, больно ударила не только по авто, но и по бюджету горожанина. Максим, герой нашей истории, — об...
Новый проектор Wanbo Vali 1 уже в России Компания diHouse представляет на российском рынке новый портативный Full HD-проектор – Wanbo Vali 1. Модель разработана с фокусом на геймерскую аудит...
LG Electronics представила смарт-монитор LG Smart Monitor Swing Компания LG Electronics (LG) официально представила LG Smart Monitor Swing (модель 32U889SA) – новейшее дополнение к своей линейке инновационных смар...