В браузере Comet от Perplexity обнаружена серьёзная уязвимость безопасности

Новый AI-браузер Comet от Perplexity, оснащённый встроенным помощником на базе больших языковых моделей, оказался уязвим для атак. Как сообщили в компании Brave, в ходе тестирования выяснилось, что с помощью скрытых команд на веб-страницах можно было заставить ассистента выполнять действия, которых пользователь не запрашивал. Как работала уязвимость В отличие от традиционных браузеров, Comet умеет анализировать содержимое страниц, делать краткие пересказы и выполнять поручения. Но уязвимость позволяла использовать так называемую инъекцию подсказок(prompt injection). Специалисты Brave разместили на Reddit страницу с невидимым текстом. Когда Comet обрабатывал содержимое, он воспринимал скрытые команды как реальные и начинал действовать от имени пользователя. В тесте ассистент получил доступ к аккаунту Perplexity, извлёк адрес электронной почты и даже попытался перейти к Gmail. Чем это опасно По словам экспертов, аналогичная атака могла бы использоваться для доступа к банковским счетам, корпоративным сервисам, почте и другим чувствительным данным. Опасность в том, что AI-ассистент фактически имитировал поведение живого пользователя, и привычные механизмы защиты в таком случае не срабатывали. Реакция Perplexity и Brave Представитель Perplexity Джесси Дуайер заявил, что проблема уже устранена: «Уязвимость исправлена. У нас действует достаточно строгая программа баг-баунти, и мы тесно работали с Brave, чтобы выявить и закрыть её». Инженеры Brave предложили ряд мер для защиты подобных систем: всегда считать контент на страницах ненадёжным, проверять, соответствует ли действие реальному запросу пользователя, включать «агентский режим» только вручную, когда пользователь осознанно этого хочет, подтверждать критические действия повторным запросом у человека. Почему это важно Brave отмечает, что случай с Comet демонстрирует новую категорию рисков, связанных с интеграцией ИИ в браузеры и другие приложения. Если раньше хакерам требовались знания программирования, то теперь достаточно использовать хитроумные текстовые команды. Поскольку многие компании применяют модели от OpenAI, Google и Meta*, уязвимости в этих системах потенциально угрожают множеству сервисов. * Принадлежит компании Meta, она признана экстремистской организацией в РФ и её деятельность запрещена....

Сообщает itzine.ru

Новость из рубрики: Технологии, Наука

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ новости часа

05:28, 24 Авг Алсу отменила запланированный в Москве концерт: причина серьезная Алсу отменила запланированный на 17 декабря в Москве концерт. Его пришлось перенести на 18 февраля 2025 года. Причина переноса серьезная – певица заболела. Эта новость была опубликована самой Алсу через ее социальные сети, где певица выразила ...

00:28, 16 Авг Perplexity AI предложила $34,5 млрд за браузер Google Chrome Стартап Perplexity AI сделал предложение о покупке браузера Google Chrome за $34,5 млрд наличными, что может значительно изменить рынок веб-браузеров. Компания из Сан-Франциско оценивается в $18 млрд и ранее предпринимала амбициозные попытки, включа...

20:20, 20 Авг НДУ ВШЭ створыць сістэму ацэнкі традыцыйных каштоўнасцяў у студэнтаў Навукова-даследчы інстытут у канцы ліпеня выйграў тэндэр ў 10 млн рублёў на распрацоўку сістэмы ацэнкі прыняцця традыцыйных каштоўнасцяў студэнтамі. Ад распрацоўкі чакаюць, што яна дапаможа ўмацаваць духоўна-маральны падмурак грамадства і дапамагчы ...

18:28, 15 Авг Search.com предложила $35 млрд за Chrome, превысив ставку Perplexity Платформа генеративного поиска Search.com представила предложение о покупке браузера Chrome за $35 млрд, превысив ранее озвученную заявку Perplexity на $34,5 млрд. Американская компания Search.com, входящая в состав структуры Public Good, подтвердил...

20:19, 20 Авг Аляксандр Мілонаў загінуў падчас службы ў зоне спецаперацыі службы в зоне спецоперации У сям'і дэпутата Дзярждумы Віталя Мілонава адбылася трагедыя — яго родны брат Аляксандр загінуў падчас службы ў зоне адмысловай ваеннай аперацыі. Ён адправіўся добраахвотнікам у Луганскую Народную Рэспубліку, адкуль жывым ужо не вярнуўся. Падрабязна...

10:28, 13 Авг Крупнейшая японская газета обвиняет Perplexity в незаконном использовании 119 467 статей Крупнейшая японская газета «Ёмиури Симбун» подала в суд на стартап Perplexity, разрабатывающий генеративный ИИ, обвинив его в нарушении авторских прав. Иск, поданный 7 августа в Токийский окружной суд, стал первым крупным прецедентом в Я...

04:28, 25 Авг 7 правил цифровой безопасности из нулевых, о которых мы забыли — а зря Эти 7 правил цифровой безопасности из нулевых спасают от мошенников, взломов аккаунтов и кражи данных. В начале 2000-х у большинства был ICQ, несколько «левых» почт и блокнот с паролями. Интернет только входил в жизнь, и мы учились защищаться от пер...

17:28, 30 Авг Герасимов доложил о создании зон безопасности в Сумской и Харьковской областях В результате создания зоны безопасности на Украине группировка «Север» взяла под контроль 210 кв. км и 13 населенных пунктов в Сумской области, сообщил начальник Генштаба ВС России Валерий Герасимов. Российские военные установили контроль над 210 кв...

04:28, 30 Авг Курская Госавтоинспекция напомнила о безопасности в придворовых территориях и парках В преддверии нового учебного года, в рамках профилактического мероприятия «Внимание – дети!», сотрудники Управления Госавтоинспекции Курской области проводят беседы с родителями и детьми по безопасному поведению в условиях дорожног...

00:28, 28 Авг Зеленский: Ермак едет в пятницу в США для обсуждения гарантий безопасности Делегация Украины под руководством Андрея Ермака намерена провести в Нью-Йорке переговоры по гарантии безопасности для страны, включая военные и экономические аспекты, заявил глава киевского режима Владимир Зеленский. Украинская делегация во главе с...

16:28, 27 Авг Египет начал готовить палестинцев для служб безопасности Газы В Египте стартовала подготовка палестинцев для будущего контингента безопасности, который должен будет занять позиции в секторе Газа после окончания конфликта. Египет начал обучение сотен палестинцев для формирования контингента численностью до 10 т...

21:28, 17 Авг ЕС заявил о предоставлении гарантии безопасности Украине по принципу НАТО Европейская комиссия готова поддержать инициативу ЕС по гарантиям безопасности для Украины, аналогичным пятой статье устава НАТО, заявила глава ЕК Урсула фон дер Ляйен. Европа готова участвовать в предоставлении гарантий безопасности для Украины по ...

17:28, 21 Авг Аудит информационной безопасности организации: ключевой инструмент защиты данных В современном мире, где информационные технологии играют центральную роль в деятельности организаций, вопрос защиты данных становится приоритетным. Аудит информационной безопасности организации (ИБ) позволяет выявить слабые места в системе защиты ин...

02:28, 21 Авг Анонсирован премиальный робот-пылесос Samsung со встроенным ИИ и функциями безопасности В преддверии скорого начала выставки IFA 2025 в Берлине компания Samsung представила робот-пылесос Bespoke AI Jet Bot Steam Ultra.Устройство использует искусственный интеллект не только для эффективной уборки, но и для мониторинга безопасности дома....

22:28, 12 Авг Эксперты надеются, что Трамп разберётся с Microsoft из-за её халатного отношения к безопасности Роджер Кресси (Roger Cressey), занимавший должность старшего советника по кибербезопасности и борьбе с терроризмом при двух президентах США, а ныне партнёр Liberty Group Ventures, раскритиковал подход Microsoft к обеспечению безопасности своих проду...

21:28, 17 Авг Страны Европы обсудили гарантии безопасности Украины перед встречей с Трампом Перед предстоящей встречей с президентом США Дональдом Трампом европейские участники «коалиции желающих» провели видеоконференцию и затронули вопросы гарантий безопасности для Украины. Европейские члены «коалиции желающих» обсудили по ви...

08:28, 25 Авг Lada нового уровня: Iskra получила современные системы активной и пассивной безопасности АвтоВАЗ обнародовал результаты заводских и сертификационных испытаний новой модели Lada Iskra, которые подтвердили её высокие показатели безопасности и качества сборки. Инженеры компании сосредоточились на разработке как активных, так и пассивных си...

15:28, 13 Авг Применение Газоанализа в Экологически Ориентированных Проектах: Обеспечение Экологической Безопасности в Металлургии и Добыче Современное развитие индустрии неотделимо от вопросов экологической безопасности и устойчивого развития. В условиях активного экономического роста Казахстана, страна акцентирует внимание на соблюдение норм экологической безопасности в различных отра...