Виталик Бутерин из Ethereum предупреждает о рисках безопасности, связанных с ИИ-агентами, и делится своим личным набором моделей LLM

Соучредитель Ethereum Виталик Бутерин полностью отказался от облачных сервисов искусственного интеллекта (ИИ) и подробно описал свою полностью локальную конфигурацию ИИ с изолированной средой в блоге, опубликованном на этой неделе.

Основные выводы:

• Соучредитель Ethereum Виталик Бутерин отказался от облачного ИИ в апреле 2026 года, запустив Qwen3.5:35B локально на ноутбуке с видеокартой Nvidia 5090 со скоростью 90 токенов в секунду.
• Бутерин обнаружил, что примерно 15% навыков ИИ-агентов содержат вредоносные инструкции, сославшись на данные компании Hiddenlayer, специализирующейся на безопасности.
• Его демон обмена сообщениями с открытым исходным кодом применяет правило подтверждения «человек плюс LLM» (2 из 2) для всех исходящих действий в Signal и электронной почте, направляемых третьим сторонам.

Как Виталик Бутерин управляет самоуправляемой системой ИИ без доступа к облаку

Бутерин охарактеризовал систему как «самостоятельную / локальную / частную / безопасную» и сказал, что она была создана в качестве прямого ответа на то, что он считает серьезными провалами в области безопасности и конфиденциальности, распространяющимися в пространстве ИИ-агентов. Он сослался на исследования, показывающие, что примерно 15% навыков агентов, или плагинов, содержат вредоносные инструкции. Компания Hiddenlayer, специализирующаяся на безопасности, продемонстрировала, что анализ одной вредоносной веб-страницы может полностью скомпрометировать экземпляр Openclaw, позволяя ему загружать и выполнять скрипты оболочки без ведома пользователя.
«Я исхожу из глубокого страха, что как раз в тот момент, когда мы наконец сделали шаг вперед в области конфиденциальности благодаря повсеместному внедрению сквозного шифрования и все большему количеству программного обеспечения, ориентированного на локальное использование, мы находимся на грани того, чтобы сделать десять шагов назад», — написал Бутерин.

Его предпочтительным оборудованием является ноутбук с графическим процессором Nvidia 5090 и 24 ГБ видеопамяти. При запуске открытой модели Qwen3.5:35B от Alibaba через llama-server эта конфигурация достигает 90 токенов в секунду, что Бутерин называет целевым показателем для комфортного повседневного использования. Он протестировал AMD Ryzen AI Max Pro с 128 ГБ объединенной памяти, который достиг 51 токена в секунду, и DGX Spark, который достиг 60 токенов в секунду.

Он сказал, что DGX Spark, позиционируемый как настольный суперкомпьютер для ИИ, не впечатлил его, учитывая его стоимость и более низкую пропускную способность по сравнению с хорошим графическим процессором для ноутбука. Что касается операционной системы, Бутерин перешел с Arch Linux на NixOS, которая позволяет пользователям определять всю конфигурацию системы в одном декларативном файле. Он использует llama-server в качестве фонового демона, который открывает локальный порт, к которому может подключиться любое приложение.

Он отметил, что Claude Code можно настроить на локальный экземпляр llama-server вместо серверов Anthropic. Использование песочницы занимает центральное место в его модели безопасности. Он использует bubblewrap для создания изолированных сред из любого каталога с помощью одной команды. Процессы, запущенные внутри этих песочниц, могут обращаться только к файлам, явно разрешенным, и контролируемым сетевым портам. Бутерин открыл исходный код демона обмена сообщениями на github.com/vbuterin/messaging-daemon, который обертывает signal-cli и электронную почту.

Он заметил, что демон может свободно читать сообщения и отправлять сообщения самому себе без подтверждения. Любое исходящее сообщение третьей стороне требует явного одобрения со стороны человека. Он назвал это моделью «человек + LLM 2 из 2» и сказал, что та же логика применима к кошелькам Ethereum. Он посоветовал командам, разрабатывающим инструменты для кошельков, подключенных к ИИ, ограничить автономные транзакции суммой в 100 долларов в день и требовать подтверждения со стороны человека для любых сумм выше этой отметки или для любых транзакций, содержащих calldata, которые могут привести к утечке данных.

Удаленное вычисление по условиям Бутерина

Для исследовательских задач Бутерин сравнил локальный инструмент Local Deep Research со своей собственной конфигурацией, использующей фреймворк pi agent в паре с SearXNG, самохостируемой метапоисковой системой, ориентированной на конфиденциальность. Он сказал, что pi плюс SearXNG дают ответы лучшего качества. Он хранит локальный дамп Википедии объемом примерно 1 терабайт наряду с технической документацией, чтобы уменьшить свою зависимость от внешних поисковых запросов, которые он рассматривает как утечку конфиденциальности.

Он также опубликовал локальный демон транскрипции аудио на github.com/vbuterin/stt-daemon. Инструмент работает без GPU для базового использования и передает вывод в LLM для коррекции и суммирования. По поводу интеграции с Ethereum Бутерин сказал, что агенты ИИ никогда не должны иметь неограниченный доступ к кошельку. Он рекомендовал рассматривать человека и LLM как два отдельных фактора подтверждения, каждый из которых улавливает разные режимы сбоев.

Для случаев, когда локальные модели не справляются, Бутерин изложил подход к удаленному выводу, обеспечивающий конфиденциальность. Он указал на свое собственное предложение ZK-API, разработанное совместно с исследователем Давиде, проект Openanonymity и использование микссетей для предотвращения связывания серверами последовательных запросов по IP-адресу. Он также упомянул доверенные среды выполнения как способ сократить утечку данных при удаленном выводе в ближайшей перспективе, отметив при этом, что полностью гомоморфное шифрование для вывода в частном облаке по-прежнему работает слишком медленно, чтобы быть практичным на сегодняшний день.

В заключение Бутерин отметил, что этот пост описывает отправную точку, а не готовый продукт, и предостерег читателей от копирования его инструментов в точности и предположения, что они безопасны.

Источник