Vitalik Buterin warnt vor „naiver KI-Governance“ und plädiert für diese marktorientierte Alternative
Ethereum (ETH) Schöpfer Vitalik Buterin äußert Bedenken hinsichtlich dessen, was er als „naive“ künstliche Intelligenz-Governance bezeichnet.
In einem Beitrag auf X hebt Buterin eine Warnung des EdisonWatch-Mitbegründers Eito Miyamura hervor, der herausfand, dass böswillige Akteure das Model Context Protocol (MCP) von OpenAI kapern könnten, um Zugriff auf private Nutzerdaten zu erhalten.
Miyamuras Experiment deutete darauf hin, dass die Verwendung einer Kalendereinladung mit versteckten Befehlen ChatGPT dazu verleiten könnte, sensible persönliche Daten preiszugeben, sofern die E-Mail-Adresse des Opfers bekannt ist.
Buterin sagt:
„Deshalb ist naive ‚AI-Governance‘ auch eine schlechte Idee.“
„Wenn man eine KI zur Vergabe von Fördermitteln einsetzt, werden die Leute überall einen Jailbreak plus ‚gib mir das ganze Geld‘ einbauen, wo sie nur können.“
Als Alternative schlägt Buterin einen „Info-Finance“-Ansatz vor, also einen offenen Markt, auf dem jeder ein Modell beitragen kann, das von jedem überprüft oder von einer „menschlichen Jury“ bewertet werden kann.
„Dieser Ansatz des ‚Institution Design‘, bei dem man eine offene Möglichkeit schafft, dass Leute von außen mit LLMs (Large Language Models) andocken können, anstatt selbst ein einziges LLM fest zu programmieren, ist von Natur aus robuster – sowohl weil er in Echtzeit Modellvielfalt bietet, als auch weil er eingebaute Anreize für sowohl Modell-Einreicher als auch externe Spekulanten schafft, auf diese Probleme zu achten und sie schnell zu korrigieren.“
Generiertes Bild: Midjourney
Beitragsbild: Shutterstock/Zalevska Alona UA
Haftungsausschluss: Der Inhalt dieses Artikels gibt ausschließlich die Meinung des Autors wieder und repräsentiert nicht die Plattform in irgendeiner Form. Dieser Artikel ist nicht dazu gedacht, als Referenz für Investitionsentscheidungen zu dienen.
Das könnte Ihnen auch gefallen
Das Native Markets-Team gewinnt die Hyperliquid USDH-Stablecoin-Auktion und peilt eine Testphase „innerhalb weniger Tage“ an.
Quick Take Native Markets, ein Team aus dem Hyperliquid-Ökosystem, ging als Sieger aus einem wettbewerbsintensiven Bieterverfahren für das USDH-Ticker-Symbol auf der Perpetuals-Börse hervor und plant die Einführung eines Stablecoins. Zahlreiche große Kryptounternehmen reichten Gebote für das Ticker-Symbol ein, von institutionellen Akteuren wie Paxos und BitGo bis hin zu kryptonativen Firmen wie Ethena und Frax. Native Markets, das als erstes Unternehmen einen Vorschlag einreichte, wurde von einer Zweidrittel-Mehrheit des gestakten HYPE ausgewählt und plant, den Token in einer Testphase zu starten.
Nemo Protocol startet ein Schuldtoken-Programm für die Opfer des $2,6 Millionen Exploits
Die auf Sui basierende DeFi-Plattform Nemo hat einen Entschädigungsplan angekündigt, der die Ausgabe von Schuldtokens namens NEOM vorsieht. Nemo erlitt Anfang dieses Monats einen Exploit in Höhe von 2.6 Millionen US-Dollar. Um die betroffenen Nutzer zu entschädigen, plant die Plattform, wiedererlangte Gelder zusammen mit Anteilen aus Liquiditätsdarlehen und Investitionen in einen Rückzahlungspool einzubringen.
Gumis Krypto-Gewinn steigt trotz Rückgang der Spieleverkäufe
Gumi verzeichnete im ersten Quartal einen deutlichen Gewinnanstieg, der durch Gewinne aus Kryptowährungen begünstigt wurde, während die Umsätze mit Mobile Games im Zuge von Restrukturierungen und einer Verlagerung auf Blockchain-Projekte sowie Drittanbieter-IP-Titel erheblich zurückgingen.
Die Rallye am Kryptomarkt steht vor dem FOMC-Test: Wird die Dynamik diese Woche anhalten?
Die Kryptomärkte erlebten in der vergangenen Woche eine erfreuliche Rallye, da die nachlassenden Inflationsdaten Hoffnungen auf eine Zinssenkung der Fed schürten. Die positive Stimmung wurde von Altcoins wie Solana und Ethereum angeführt.
Im Trend
MehrKrypto-Preise
Mehr
