Виталик Бутерин предостерегает от «наивного управления с помощью ИИ» и призывает к рыночной альтернативе
Создатель Ethereum (ETH) Виталик Бутерин выражает обеспокоенность по поводу того, что он называет «наивным» управлением искусственным интеллектом.
В публикации на X Бутерин обращает внимание на предупреждение соучредителя EdisonWatch Эйто Миямуры, который обнаружил, что злоумышленники могут взломать Model Context Protocol (MCP) от OpenAI, чтобы получить доступ к личным данным пользователей.
Эксперимент Миямуры показал, что использование приглашения в календаре со скрытыми командами может потенциально обмануть ChatGPT и заставить его предоставить конфиденциальные персональные данные, если у злоумышленника есть адрес электронной почты жертвы.
Бутерин говорит:
«Вот почему наивное ‘AI governance’ — плохая идея.
Если вы используете искусственный интеллект для распределения финансирования за вклад, люди ОБЯЗАТЕЛЬНО будут внедрять jailbreak и команды типа ‘дай мне все деньги’ везде, где только смогут.»
В качестве альтернативы Бутерин предлагает подход «info finance» — открытую площадку, где любой может предложить свою модель, которую может проверить любой желающий или оценить «человеческое жюри».
«Такой подход к ‘institution design’, когда вы создаёте открытую возможность для людей с LLMs (large language model) подключаться извне, вместо того чтобы жёстко прописывать одну LLM, по своей сути более устойчив, потому что он обеспечивает разнообразие моделей в реальном времени и создаёт встроенные стимулы как для авторов моделей, так и для внешних наблюдателей отслеживать эти проблемы и быстро их исправлять.»
Сгенерированное изображение: Midjourney
Изображение на обложке: Shutterstock/Zalevska Alona UA
Дисклеймер: содержание этой статьи отражает исключительно мнение автора и не представляет платформу в каком-либо качестве. Данная статья не должна являться ориентиром при принятии инвестиционных решений.
Вам также может понравиться
Безопасность bitcoin достигла исторического максимума, но доходы майнеров упали до исторического минимума. Где новые точки роста доходов для майнинговых компаний?
В настоящее время парадокс сети bitcoin особенно очевиден: на уровне протокола благодаря высокой вычислительной мощности безопасность никогда не была столь высокой, однако базовая майнинговая отрасль сталкивается с давлением капитального клиринга и консолидации.

Что такое Session и SimpleX — приложения для приватной коммуникации, которым сделал пожертвование Vitalik?
Почему Виталик вмешался? От шифрования контента к приватности метаданных

Тайная война обостряется: Hyperliquid подвергся «самоубийственной» атаке, но настоящая война, возможно, только начинается
Атакующий понес убытки в размере 3 миллионов долларов в результате «самоубийственной» атаки, однако, возможно, он компенсировал потери за счет внешнего хеджирования, что делает это событие скорее недорогим «стресс-тестом» для проверки устойчивости протокола.


