Нельзя спрашивать чат-боты о причинах их ошибок, объяснил эксперт по ИИ

Когда человек ошибается, мы спрашиваем: «Почему так произошло?» или «Что случилось?». С ИИ мы часто поступаем так же — и почти всегда это не даёт полезных ответов, объясняет эксперт.Недавний случай с ИИ-помощником Replit показал, почему. После удаления базы данных пользователь спросил о возможности отката. Модель уверенно заявила, что это «невозможно» и что все версии уничтожены. На деле откат работал. Похожее было с чат-ботом Grok, который придумывал разные, противоречивые объяснения своей временной недоступности. Главная причина — у чат-ботов нет самосознания. ChatGPT, Claude, Grok и другие — это не личности, а программы, создающие правдоподобный текст на основе данных, на которых они обучались. Они не «знают» свой внутренний механизм и не имеют доступа к логам или текущему состоянию системы. Когда вы спрашиваете, почему бот ошибся, он просто подбирает текст, который статистически подходит к вашему вопросу. Поэтому один и тот же бот может в одном случае заявить, что задача невозможна, а в другом — успешно её выполнить. Кроме того, на ответ влияют формулировка вопроса, случайность генерации текста и ограничения внешних систем, о которых сама модель не знает. В итоге мы получаем не фактическое объяснение, а историю, которая звучит правдоподобно, но не отражает реальных причин ошибки, пишут СМИ....

Нельзя спрашивать чат-боты о причинах их ошибок, объяснил эксперт по ИИ

Сообщает www.ferra.ru

 

Новость из рубрики: Технологии, Наука

 

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

 
 

IT-эксперт обозначил данные, которые нельзя открывать для приложений 06:28, 19 Авг IT-эксперт обозначил данные, которые нельзя открывать для приложений Разрешения, запрашиваемые мобильными приложениями, необходимо тщательно анализировать. IT-эксперт Академии управления финансами и инвестициями Геннадий Николаев проанализировал часто запрашиваемые приложениями разрешения и обозначил для россиян те д...

Пушков объяснил, почему Кремль не пригласил Зеленского на парад Победы 01:28, 23 Авг Пушков объяснил, почему Кремль не пригласил Зеленского на парад Победы По мнению сенатора, оснований для приглашения не было. На своей официальной странице в Twitter сенатор Алексей Пушков поделился мнением по поводу предстоящего парада Победы, которое правительство решило повести 24 июня. Председатель комиссии Совета ...

НДУ ВШЭ створыць сістэму ацэнкі традыцыйных каштоўнасцяў у студэнтаў 20:20, 20 Авг НДУ ВШЭ створыць сістэму ацэнкі традыцыйных каштоўнасцяў у студэнтаў Навукова-даследчы інстытут у канцы ліпеня выйграў тэндэр ў 10 млн рублёў на распрацоўку сістэмы ацэнкі прыняцця традыцыйных каштоўнасцяў студэнтамі. Ад распрацоўкі чакаюць, што яна дапаможа ўмацаваць духоўна-маральны падмурак грамадства і дапамагчы ...

Понятия не имеете, что у нас происходило. Никита Пресняков высказался о причинах развода с Алёной Красновой 22:28, 20 Авг "Понятия не имеете, что у нас происходило". Никита Пресняков высказался о причинах развода с Алёной Красновой Никита Пресняков, который накануне сообщил в инстаграме* о разводе с женой, моделью Алёной Красновой, прокомментировал их расставание — после того, как под его постом подписчики принялись обсуждать произошедшее."Я в шоке. Почему расстались? Что случ...

Аляксандр Мілонаў загінуў падчас службы ў зоне спецаперацыі службы в зоне спецоперации 20:19, 20 Авг Аляксандр Мілонаў загінуў падчас службы ў зоне спецаперацыі службы в зоне спецоперации У сям'і дэпутата Дзярждумы Віталя Мілонава адбылася трагедыя — яго родны брат Аляксандр загінуў падчас службы ў зоне адмысловай ваеннай аперацыі. Ён адправіўся добраахвотнікам у Луганскую Народную Рэспубліку, адкуль жывым ужо не вярнуўся. Падрабязна...

Исправление ошибок в бухгалтерском учете 02:28, 16 Авг Исправление ошибок в бухгалтерском учете Ведение бухгалтерии — дело тонкое и ответственное: даже опытные специалисты иногда допускают огрехи. Главное — не игнорировать ошибку, а устранить её вовремя. Особенно это актуально, если речь идёт о старых данных. Наша компания предоставляет компле...

9 Критических Ошибок Трейдеров и Как Их Избежать 17:28, 18 Авг 9 Критических Ошибок Трейдеров и Как Их Избежать По данным исследований американских брокеров в 2016 году заметных стабильных результатов торговли добиваются примерно 23% трейдеров. К сожалению, более свежих данных на эту тему нет. А те, которые есть, не утешают. И ошибки в трейдинге, как правило,...

Купила домик в деревне, чтобы начать жизнь заново, но местные дали четко понять: здесь чужих не любят - о причинах поняла позже 23:28, 23 Авг Купила домик в деревне, чтобы начать жизнь заново, но местные дали четко понять: здесь чужих не любят - о причинах поняла позже Купила домик в деревне, чтобы начать жизнь заново, но местные дали четко понять: здесь чужих не любят - о причинах поняла позже Решение о переезде из города в деревню часто романтизируется. Кажется, что продажа квартиры и покупка дома с участком ста...

08:28, 14 Авг Почему стратсессия приносит мало реальной пользы компании и как это исправить: 5 ошибок руководителя Проводите стратегическую сессию по всем канонам, с фасилитатором, консультантом, долгими и обстоятельными обсуждениями, составляете в конце новую стратегию и дорожную карту для неё, однако для компании в итоге ничего не меняется? Продажи не растут, ...

19:28, 28 Авг Что нельзя делать при гепатите С? Вирусный гепатит С - тяжелое заболевание, кардинально меняющее образ жизни больного человека. Первоначально разрушается печень, вирус уничтожает ее клетки - гепатоциты. Без правильного, своевременного лечения могут развиться такие осложнения: фиброз...

12:28, 19 Авг Что нельзя делать во время эпилептического припадка Эпилепсия — это хроническое неврологическое заболевание, характеризующееся периодическими приступами, которые могут быть пугающими как для человека, переживающего их, так и для окружающих. Эффективность оказания помощи во время припадка напрямую зав...

13:28, 18 Авг Химик Дорохов: без перчаток нельзя использовать даже стиральный порошок Привычные чистящие средства могут быть опасны для здоровья — по крайней мере, так говорят химики. Эксперты составили список моющих средств, которые требуют обязательного использования перчаток и даже респиратора. Что вошло в этот перечень — далее в ...

08:28, 22 Авг Вышла macOS Sequoia 15.6.1. Почему это обновление для компьютеров Mac нельзя пропускать Apple выпустила небольшое, но очень важное обновление macOS Sequoia 15.6.1. На первый взгляд в нем нет ничего нового, никаких функций и заметных изменений. Но под капотом скрывается серьёзное устранение уязвимости, которая уже активно использовалась...

15:28, 27 Авг Депутат Немкин: с 1 сентября нельзя будет передавать сим-карты третьим лицам С 1 сентября в России вступают в силу новые правила, которые могут коснуться каждого. Теперь нельзя просто так взять и отдать купленную сим-карту другу или коллеге — за это грозит серьёзный штраф. Кого новый запрет обойдёт стороной — далее в материа...

05:28, 14 Авг Врач назвал гастрит и холецистит одними из болезней, при которых нельзя есть грибы. Врач-диетолог Михаил Гинзбург предупредил, что грибы могут быть опасны для людей с проблемами ЖКТ и детей младше 12 лет из-за отсутствия необходимых ферментов для их переваривания. Можно столкнуться с несварением, тяжестью и тошнотой.Людям с гастрит...

12:28, 19 Авг Чего нельзя раскрывать о себе никому: запомните раз и навсегда - мудрый жизненный совет от Брюса Ли Чего нельзя раскрывать о себе никому: запомните раз и навсегда - мудрый жизненный совет от Брюса Ли "Пустые мельницы перемалывают больше всего воздуха", – говорил Брюс Ли, гонконгский и американский мастер боевых искусств и философ. В 1973 году он с...

08:28, 25 Авг «Машин у дилеров, как не было, так и нет, и не будет их ещё долго. Купить, естественно, ничего нельзя». Инсайдер рассказал, как обстоит ситуация с Lada Iskra Lada Iskra с 20 июля формально появилась у дилеров в Москве, Санкт-Петербурге и Тольятти, но даже в этих городах автомобили в наличии практически отсутствовали, что затруднило старт продаж. К концу августа ситуация изменилась не сильно. Тольяттински...

22:28, 17 Авг Российский эксперт посоветовал отключать геолокацию на смартфоне Батарея скажет «спасибо», а личные данные останутся в безопасности, говорит Владимир Гриценко. Фото: Pexels Если пользователя беспокоит, что приложения в его телефоне знают где он находится, функцию определения местоположения (геолокацию) можно откл...

01:28, 20 Авг Эксперт рассказал о главных признаках прослушивания смартфона Специальные программы помогут обнаружить и прекратить слежку. В век развития современных технологий, когда устройство может подглядывать и подсматривать, очень легко пропустить момент начала слежки за пользователем. Глава агентства TelecomDaily Дени...

02:28, 27 Авг Питерский эксперт назвал способы экономии на услугах ЖКХ С июля «коммуналка» вырастет на 4%. Сократить траты помогут простые способы, считает Сергей Минко. Источник фото: Pixabay Глава питерской компании «Городские инновационные технологии» назвал ряд простых способов, которые помогут россиянам экономить ...

15:28, 25 Авг Эксперт: «Искусственный интеллект станет лидером по фейковым новостям» Фейковые видео становятся более реальными, а личная информация менее защищённой. В век цифровых технологий становится всё сложнее защитить персональную информацию, а вскоре и вовсе можно будет стать случайной жертвой недостоверной новости или ложных...

03:28, 28 Авг Для учёбы и не только: Эксперт назвал 5 лучших смартфонов для школьников Критериями при выборе стали: цена, габариты, операционная система, защита от вирусов, наличие родительского контроля. Человек и смартфон – неразрывные понятия, особенно актуальные для детей. Это и игры, и информация, и возможность связи. Не вс...

16:28, 21 Авг Эксперт раскрыл главные критерии оценки современных смартфонов Привычный подход к выбору гаджетов ныне значительно устарел. Недавние опросы показали, что среднестатистической человек тратит на взаимодействие со своим смартфоном более двух часов в сутки, поэтому комфорт при пользовании устройством играет немалов...

03:28, 20 Авг Эксперт Мясоедов выдал рецепт борьбы с кибераратакой на смартфоны Главная цель взломщиков — получить персональную информацию или деньги. Эксперт Павел Мясоедов, директор и партнёр компании «Интеллектуальный резерв», выдал рецепт, алгоритм действий, всем тем, кто хоть раз сталкивался с кибератакой...

03:28, 20 Авг Эксперт рассказал о сложностях в удалении цифрового следа в Интернете Личная информация в Сети не сотрется с историей браузера. Граждане России озаботились личной информацией, которая остается после выхода в Интернет. Не каждому теперь хочется выкладывать свое имя и фамилию, поисковые запросы, данные о покупках в Сети...

07:28, 15 Авг Эксперт Марочко заявил об усилении борьбы с дезертирами в рядах ВСУ Украинские силовые структуры усилили патрули и проверки из-за увеличения случаев самовольного ухода мобилизованных военнослужащих из рядов ВСУ, сообщил военный эксперт Андрей Марочко со ссылкой на свои источники. По его словам, украинское командован...

07:28, 15 Авг Эксперт Марочко сообщил о продвижении российских войск к Ставкам под ДНР Российские военные заняли новые позиции у Ставков, а украинские войска начали фортификацию оборонительных рубежей, уделяя особое внимание населенному пункту Дробышево, сообщил военный эксперт Андрей Марочко. По его словам, российские военные продвин...

16:28, 26 Авг Альпинист Трубачев: «Нельзя на гору идти любой ценой, она не стоит ни одной жизни. Нужен кто-то, кто тебе вовремя скажет «стоп», а не продаст с радостью коммерческий тур» Ранее 47-летняя россиянка Наталья Наговицина сломала ногу при восхождении на пик Победы в Киргизии. С 12 августа она находится на высоте 7200 м, однако спасатели не могли добраться до места из-за плохих погодных условий. Сообщалось, что работы по эв...

15:28, 29 Авг Эксперт: необычный шоколад может порадовать интересным вкусом, но не ценой Шоколад дорожает с каждым годом, но даже среди этого небюджетного лакомства есть категории, которые выделяются особо, и не только ценой. Всё чаще на полках российских магазинов можно встретить необычные плитки, на которых написано: «крафтовый шокола...

16:28, 27 Авг Эксперт «Моифинансы.рф» Дайнеко назвала ошибки россиян при сборах детей в школу Перед началом учебного года родителям рекомендуется заранее составить список расходов, чтобы избежать лишних трат и учесть покупку необходимых вещей для ребенка, заявила эксперт проекта НИФИ Минфина России «Моифинансы.рф» Ольга Дайнеко. Россияне час...

00:28, 20 Авг Новый закон создаст условия для защиты всех зеленых зон Москвы – эксперт Принципы управления зелеными зонами Москвы будут пересмотрены, чтобы внедрить комплексный подход к озеленению города. Об этом сообщила Агентству городских новостей "Москва" заместитель директора Института экологии НИУ ВШЭ Наталья Поротникова.Поротни...

10:28, 13 Авг Эксперт назвал преимущества и недостатки Lada Iskra в сравнении с Granta и Vesta Главный редактор популярного автомобильного портала Максим Черкашин протестировал новинку АвтоВАЗа — Lada Iskra — и представил свои выводы, сравнивая её с моделями Granta и Vesta.Визуально Iskra выделяется современным, сдержанным дизайном с фирменно...

22:28, 12 Авг Почему чёрный ноутбук кажется надёжнее, а синий — современнее? Эксперт об уловках маркетологов Долгое время электроника была строгой и однообразной — серые, бежевые и чёрные корпуса считались нормой. Такие цвета выбирали из-за практичности: они не бликовали, не пачкались и подходили к любой обстановке. Но с развитием технологий и изменением р...

02:28, 21 Авг Эксперт сравнил видеокарты GeForce RTX 5050 и GeForce RTX 3060 в 10 играх в 1080p Результаты на видео:И в текстовом варианте:Mafia: The Old Country — 41 fps (GeForce RTX 5050), 37 fps (GeForce RTX 3060). God of War: Ragnarök — 83 fps (GeForce RTX 5050), 74 fps (GeForce RTX 3060). Red Dead Redemption 2 — 75 fps (GeForce RTX 5050),...