Новости криптомира

ИИ-стартап Anthropic запустил расширение в Chrome для ИИ-агента на базе модели Claude.

На старте цифровой помощник под названием Claude for Chrome доступен группе из 1000 подписчиков тарифа Max. Открыт лист ожидания для других заинтересованных пользователей.

Добавив ассистента в Chrome, юзеры могут общаться с ним в боковом окне. Агент сохраняет контекст всего происходящего в веб-обозревателе и способен сам выполнять действия в нем, завершая некоторые задачи.

Браузеры становятся новым полем битвы для ИИ-лабораторий, поскольку являются основным окном для входа в интернет. Ранее Perplexity запустила собственное решение на базе искусственного интеллекта — Comet. Также компания предложила купить Chrome за $34,5 млрд.

В апреле аналогичной сделкой заинтересовалась OpenAI. Также разработчик ChatGPT готовится представить свой ИИ-браузер с похожим на Comet функционалом.

Опасность автономных ИИ-агентов

В блоге Anthropic предупредила, что рост числа ИИ-агентов с доступом к браузеру несет новые риски безопасности.

Ранее команда Brave заявила, что агент Comet может быть уязвим к косвенным атакам типа инъекции промпта, когда скрытый код на сайте способен обмануть виртуального помощника и заставить его выполнить вредоносные инструкции при обработке страницы. Заявляется, что брешь уже исправлена.

Пользователи Claude for Chrome могут ограничить доступ агента к определенным сайтам в настройках. По умолчанию сервис не может взаимодействовать с предоставляющими финансовые услуги платформами, контентом для взрослых и ресурсами с пиратским содержимым.

Перед выполнением «высокорискованных операций вроде публикации, покупки или передачи персональных данных» агент запрашивает подтверждение.

Напомним, в августе разработчики Coinbase Кевиа Леффью и Линкольн Мурр заявили, что автономные агенты станут крупнейшими активными пользователями сети второй по капитализации криптовалюты.