China en de Verenigde Staten praten over AI uit de hand lopen, maar zien elkaar als een bron van risico: wereldwijde AI-veiligheidsdeficiëntie is een controleerbare verantwoordelijkheidsmechanisme

Artificiële intelligentie beveiliging is het invoeren van de high-level agenda van China en de Verenigde Staten van de tech kringen.U.S. Minister van Financiën Bessent en Chinees ministerie van Buitenlandse Zaken Vice-premier Ho Chi Minh in het overleg in New York voor Xi Jinping's bezoek aan de Verenigde Staten, van plan is om AI-beveiliging, opengewichtmodel bespreken en misbruik "barrière" voorkomen; Toen Xi Jinping en Trump volgende week in Washington bijeenkwamen, werd AI governance ook opgenomen in de mogelijke onderwerpen die besproken werden.

Het is niet de vraag of de twee landen het risico erkennen, maar wie het risico bepaalt, wie verantwoordelijk is voor het controleren van de veiligheid en wie verantwoordelijk is voor het toezicht op de veiligheid. ongeluk. De Associated Press zei deze week dat beide partijen bezorgd waren dat geavanceerde modellen werden misbruikt of buiten controle, maar tegelijkertijd vermoedden dat elkaar zou gebruiken "veiligheid" om technologische voordelen te behouden of de politieke controle uit te breiden. Het mondiale bestuur wordt dus geconfronteerd met een paradox: de twee landen met de meeste capaciteit om de AI-regels te beïnvloeden, en een van de twee landen met het grootste vertrouwen in elke andere.

..eng is niet langer hetzelfde woord.

De huidige VS Het veiligheidsdebat over AI draait vooral om hoe het werk wordt verdeeld tussen geavanceerde modelontwikkelaars, beoordelingen door derden en overheidsregulering. Reuters meldt dat Sam Altman, CEO van OpenAI, pleit voor de invoering van een onafhankelijk toezichtmechanisme dat vergelijkbaar is met dat van de luchtvaartindustrie; Dario Amodei, CEO van Antropic, ondersteunt de geleidelijke vorming van sterkere industrie en internationale veiligheidsnormen; en Yuan Yuan, CEO van Nvidia, en anderen zorgen dat nieuwe wetten zullen vertragen innovatie. De Trump administratie benadrukt meestal VS technologieleiderschap en is voorzichtig met brede federale regelgeving.

China's pad is meer geneigd om normen te formuleren, bedrijven om nalevingsverplichtingen te doen en regelgevende instanties om veiligheidsbeoordelingen uit te voeren. Publieksbeleidsdocumenten hebben de afgelopen jaren gegenereerde AI, algoritme aanbevelingen, databeveiliging en AI-agenten opgenomen in het regelgevingssysteem. China ontwikkelt nationale normen voor de veiligheid van AI-informatie-instanties en ook de beleidsdiscussies zijn begonnen met het tonen van risicoconcepten zoals "uit de hand lopen," gegevens dumping, algoritme manipulatie en systeem kwetsbaarheden.

Grote VS AI-bedrijven hebben sterke interne veiligheidsteams en externe beoordelingsecosystemen, maar het uniforme regelgevingskader op regeringsniveau is nog steeds omstreden; China heeft meer gecentraliseerde bestuurlijke regelgevingscapaciteiten, maar de buitenwereld heeft twijfels over de vraag of onafhankelijke beoordelingsinstanties echt een toezicht kunnen spelen rol buiten ondernemingen en regelgevende diensten.

Open Gewicht Model maakt keten van verantwoordelijkheid moeilijker

De verschillen tussen China en de Verenigde Staten zijn prominent aanwezig in het open gewichtsmodel. Veel head-to-head AI-bedrijven in China snel uitbreiden overzeese adoptie door middel van open of lagere kosten modellen, terwijl de meeste van de meest geavanceerde business modellen in de Verenigde Staten nog steeds sterk gesloten. Open gewicht is gunstig voor onderzoekers, ontwikkelaars en kleine en middelgrote ondernemingen om modellen te gebruiken en te wijzigen tegen lage kosten, maar zodra het model is gedownload, omgetraind en heringevoerd, de oorspronkelijke ontwikkelaar de mogelijkheid om downstream gebruik te controleren vermindert.

Dit is ook een van de redenen waarom de Top van Bessent-Houston het open gewichtsmodel op de agenda zal plaatsen. Reuters meldt dat de VS. ambtenaren zijn op zoek naar te bespreken hoe te implementeren van een barrière ingesteld tegen hoge risico's mogelijkheden, kwaadaardige toepassingen en autonoom agentschap gedrag zonder volledig blokkeren van de open ecosysteem.

Het probleem is dat de eenvoudige eis van..corporate verantwoordelijkheid.. niet de hele keten van verantwoordelijkheid dekt. Een basismodel kan worden opgeleid door een bedrijf, gehost door B platform, toegankelijk door C-ontwikkelaar aan het agentschap systeem en vervolgens ingezet via D-onderneming om medische, financiële, industriële of openbare diensten.

AI-agenten maken van

De reden voor de opwarming van de veiligheidsdebatten in 2026 is dat AI-agenten snel de echte business betreden. In tegenstelling tot chatbots die alleen tekst genereren, kunnen proxysystemen software bellen, door het web bladeren, code schrijven, databases bedienen en zelfs transacties uitvoeren. Zodra het systeem continue toestemming heeft, kunnen fouten zich uitbreiden van een enkele foutrespons naar continue actie.

China. regelgeving documenten zijn begonnen om AI agenten te eisen om de mogelijkheid te hebben om te detecteren, interfereren, blokkeren en herstellen, en benadrukken dat als het gaat om onafhankelijk De besluitvorming moet worden gericht op de gebruikers, waarbij de uiteindelijke controle door de mens moet worden gehandhaafd. U.S. technologiebedrijven moeten soortgelijke problemen onderzoeken door middel van interne rode lijn, stroomisolatie, externe evaluatie en.stop switching.

Wat er echt toe doet is niet wie wie gelooft, maar wie de verificatie accepteert.

China-VS AI-wedstrijd zal niet op korte termijn verdwijnen vanwege een top. chipexportcontrole, modeltoegangsbeperkingen, talentconcurrentie en nationale veiligheidsevaluatie zullen van invloed blijven op beide beleidsgebieden.

Een meer operationele ruimte voor samenwerking is de instelling van een gemeenschappelijk minimum- en controleerbare gemeenschappelijke regeling, bijvoorbeeld door een compatibele classificatie van rapportages voor ernstige AI-beveiligingsincidenten, het bijhouden van controleerbare operationele dossiers voor hoogrisico-agenten, waardoor gecertificeerde derden een gezamenlijke testset kunnen gebruiken om capaciteiten te evalueren en misbruik en het opzetten van noodmeldingskanalen tussen overheden wanneer modellen geconfronteerd worden met grensoverschrijdende cyberaanvallen, bioveiligheid of kritieke infrastructuurrisico's.

In plaats daarvan, als dezelfde strenge controle ondergaan, de zogenaamde wereldwijde AI-governance zal moeilijk geloofwaardig te maken zijn. Of het nu gaat om zelfdiscipline, overheidsvergunningen of nationale normen, het moet uiteindelijk in dezelfde vraag komen: als er een groot risico is, wie weet wat er gebeurt. De heer Brok (PPE).

• (DE) Mijnheer de Voorzitter, ik wil de heer Brok gelukwensen met zijn verslag.

Xi Jinping en Trump gesprekken niet in staat zijn om een volledige set van China-US AI veiligheidsovereenkomst, maar als de twee partijen kunnen de discussie van de abstracte "leidende" en "dreiging" voor de melding van ongevallen, instantie van het agentschap, modelbeoordeling en noodcontact met deze specifieke mechanismen, ten minste kunnen bepaalde controleerbare grenzen voor de concurrentie.