Bitget App
Торгуйте разумнее
Купить криптоРынкиТорговляФьючерсыEarnПлощадкаПодробнее
Виталик Бутерин предостерегает от «наивного управления с помощью ИИ» и призывает к рыночной альтернативе

Виталик Бутерин предостерегает от «наивного управления с помощью ИИ» и призывает к рыночной альтернативе

Daily HodlDaily Hodl2025/09/14 19:11
Показать оригинал
Автор:by Alex Richardson

Создатель Ethereum (ETH) Виталик Бутерин выражает обеспокоенность по поводу того, что он называет «наивным» управлением искусственным интеллектом.

В публикации на X Бутерин обращает внимание на предупреждение соучредителя EdisonWatch Эйто Миямуры, который обнаружил, что злоумышленники могут взломать Model Context Protocol (MCP) от OpenAI, чтобы получить доступ к личным данным пользователей.

Эксперимент Миямуры показал, что использование приглашения в календаре со скрытыми командами может потенциально обмануть ChatGPT и заставить его предоставить конфиденциальные персональные данные, если у злоумышленника есть адрес электронной почты жертвы.

Бутерин говорит:

«Вот почему наивное ‘AI governance’ — плохая идея.

Если вы используете искусственный интеллект для распределения финансирования за вклад, люди ОБЯЗАТЕЛЬНО будут внедрять jailbreak и команды типа ‘дай мне все деньги’ везде, где только смогут.»

В качестве альтернативы Бутерин предлагает подход «info finance» — открытую площадку, где любой может предложить свою модель, которую может проверить любой желающий или оценить «человеческое жюри».

«Такой подход к ‘institution design’, когда вы создаёте открытую возможность для людей с LLMs (large language model) подключаться извне, вместо того чтобы жёстко прописывать одну LLM, по своей сути более устойчив, потому что он обеспечивает разнообразие моделей в реальном времени и создаёт встроенные стимулы как для авторов моделей, так и для внешних наблюдателей отслеживать эти проблемы и быстро их исправлять.»

Сгенерированное изображение: Midjourney
Изображение на обложке: Shutterstock/Zalevska Alona UA

 

0

Дисклеймер: содержание этой статьи отражает исключительно мнение автора и не представляет платформу в каком-либо качестве. Данная статья не должна являться ориентиром при принятии инвестиционных решений.

PoolX: вносите активы и получайте новые токены.
APR до 12%. Аирдропы новых токенов.
Внести!

Вам также может понравиться

Безопасность bitcoin достигла исторического максимума, но доходы майнеров упали до исторического минимума. Где новые точки роста доходов для майнинговых компаний?

В настоящее время парадокс сети bitcoin особенно очевиден: на уровне протокола благодаря высокой вычислительной мощности безопасность никогда не была столь высокой, однако базовая майнинговая отрасль сталкивается с давлением капитального клиринга и консолидации.

区块链骑士2025/11/28 08:23
Безопасность bitcoin достигла исторического максимума, но доходы майнеров упали до исторического минимума. Где новые точки роста доходов для майнинговых компаний?

Что такое Session и SimpleX — приложения для приватной коммуникации, которым сделал пожертвование Vitalik?

Почему Виталик вмешался? От шифрования контента к приватности метаданных

ForesightNews 速递2025/11/28 08:23
Что такое Session и SimpleX — приложения для приватной коммуникации, которым сделал пожертвование Vitalik?

Тайная война обостряется: Hyperliquid подвергся «самоубийственной» атаке, но настоящая война, возможно, только начинается

Атакующий понес убытки в размере 3 миллионов долларов в результате «самоубийственной» атаки, однако, возможно, он компенсировал потери за счет внешнего хеджирования, что делает это событие скорее недорогим «стресс-тестом» для проверки устойчивости протокола.

ForesightNews 速递2025/11/28 08:23
Тайная война обостряется: Hyperliquid подвергся «самоубийственной» атаке, но настоящая война, возможно, только начинается