Claude wordt gebruikt om Oeigoeren, Tibetanen en Taiwanezen te volgen, en Chinese surveillance machines worden geautomatiseerd

Een reeks surveillance-inspanningen gericht op Oeigoeren, Tibetanen, Taiwanese politici en activisten gaan verder van camera's, databases en kunstmatige intelligentieanalyses Anthropische informatie onthult dat Chinese acteurs Claude hebben geprobeerd automatisch te gebruiken om de informatie te verspreiden over de dreiging van kunstmatige intelligentie. De Commissie heeft de Raad verzocht de Commissie te verzoeken de nodige maatregelen te nemen om de naleving van de bepalingen van het Verdrag te waarborgen. De heer Van der Waal (NI).

• Mijnheer de Voorzitter, ik wil de heer Van Miert danken voor zijn verslag.

Het meest alarmerende aan de onthulling is niet dat iemand misbruik maakt van een chat robot, maar gegenereerde AI vult de laatste kostbare menselijke verbinding in het nationale monitoringsysteem: machines verzamelen niet alleen mensen locatie, relaties en spraak, maar ook beginnen met het lezen, classificeren, classificeren en opstellen van rapporten voor monitors die kunnen worden geleverd rechtstreeks aan de besluitvormers.

Anthropic zei dat het onderzoek heeft uitgewezen dat Claude werd gebruikt voor een verscheidenheid van kwaadaardige activiteiten, waaronder cyberaanvallen, wapengerelateerde werkzaamheden, fraude en surveillance. operaties, waaronder gevallen in verband met Chinese belangen, waarbij informatie over Oeigoeren, Tibetanen, Taiwanese politici en activisten wordt verwerkt.

Van

In de afgelopen tien jaar, China. s digitale surveillance systeem. de meest betrokken mogelijkheden hebben zich gericht op front-end vastleggen: publieke camera's, gezichtsherkenning, mobiele telefoon inspectie, communicatiegegevens, reisgegevens en cross-databaseconnectiviteit.

Maar hoe meer ze verzamelen, hoe meer de andere vraag naar voren komt: Wie verwerkt enorme hoeveelheden data? Traditionele inlichtingensystemen vereisen dat medewerkers rapporten lezen, sociale media filteren, relaties organiseren, teksten vertalen en bepalen wat er verder aandacht nodig is.

Grote taalmodellen kunnen veel werk automatisch doen, en het kan:

• Bulk samenvattingen van karakters en organisatorische materialen;
• namen, locaties, relaties en politieke standpunten uit een groot aantal teksten te halen;
• de inhoud van sociale media classificeren;
• het genereren van monitoringverslagen op basis van vastgestelde templates;
• het vertalen van Oeigoerse, Tibetaanse, Chinese en andere taalmaterialen;
• gefragmenteerde informatie te organiseren in persoonlijkheidsarchieven en actie-aanwijzingen.

Dit betekent dat de omvang van de monitoring niet langer strikt beperkt wordt door het aantal monitoringpersoneel.Een materiaal pool die vroeger door tientallen mensen werd verwerkt kan worden voor een korte tijd door het model gefilterd.

Xinjiang heeft de eerste fase van "data stability" aangetoond

De publieke surveillance in Xinjiang is al lang zeer intensief. Internationale mensenrechtenorganisaties hebben eerder aangetoond dat lokale wetshandhavingssystemen big data platforms, camera's en meerdere bronnen van persoonlijke informatie gebruiken. om bewoners te identificeren en in te delen.

Met de toevoeging van gegenereerde AI, de verandering is niet alleen het toevoegen van een camera, maar het geven van de bestaande gegevens een sterkere analytische mogelijkheid. De camera lost..wat er gebeurd is, de database lost

Het echte gevaar is niet dat AI plotseling een politieke houding aanneemt, maar dat het een dwangmatige instelling is die haar politieke labels, sleutelmensenlijsten en stabiliteit kan overdragen. doelen voor AI, waardoor machines om screening uit te voeren in een geïndustrialiseerd tempo.

* Grensoverschrijdende repressie heeft dus een goedkopere inlichtingentool verkregen

Oeigoeren, Tibet, Hongkong en Taiwan hebben al lang geconfronteerd met cybervissen, malware, accountaanvallen en identiteitsverzameling. Westerse inlichtingen- en cybersecurity agentschappen hebben eerder gewaarschuwd dat malware acties in verband met Chinese beveiligingsbureaus zijn gericht op Taiwan, Tibet, Oeigoeren en andere groepen die kritiek hebben op Peking.

Overzeese activisten hebben de bewakingsdruk van bepaalde entiteiten kunnen verminderen door China in het verleden te verlaten, maar de digitale ruimte vervaagde de nationale grenzen. Openbare toespraken, sociale media, organisatielijsten, conferentiefoto's en contactnetwerken kunnen allemaal automatisch worden vastgelegd en opnieuw worden samengesteld.

De AI die hierheen komt is geen nieuwe monitoringobjecten, maar een nieuwe monitoring-efficiëntie. Een overzeese organisatie van tientallen evenementen, honderden deelnemers en duizenden openbare posten, waarvoor vroeger langdurige arbeidskrachten nodig waren; Nu kunnen modellen deze materialen snel comprimeren tot gestructureerde samenvattingen.

Commerciële AI bedrijven worden gedwongen om verantwoordelijkheid te nemen voor..antistabiliteit tools.

Antropic sloot de relevante rekeningen, wat erop wijst dat GM zichzelf niet langer kon zien als een softwarebedrijf dat alleen teksttools levert.Nadat het model de mogelijkheid heeft om te coderen, analyseren, vertalen en integreren van informatie, kunnen de klanten zowel onderzoekers en inlichtingendiensten, cyberaanvallers en politieke surveillance systemen.

Dit brengt ten minste drie niveaus van verantwoordelijkheid voor AI-bedrijven met zich mee:

1. het identificeren van massale politieke surveillance en abnormale gebruikspatronen die op specifieke etnische groepen zijn gericht;
2. Voorkomen dat modellen worden gebruikt om geautomatiseerde records van politieke dissidenten, etnische minderheden en ballingen te creëren; en
3. voldoende informatie te verstrekken wanneer misbruik op nationaal of nationaal niveau wordt ontdekt, zodat de doelgroepen beschermingsmaatregelen kunnen nemen.

Opensourcemodellen, lokale implementatiemodellen en diensten van derden betekenen dat dergelijke mogelijkheden niet kunnen rekenen op een permanente blokkering door een VS. gezelschap.

Het probleem wijst uiteindelijk nog steeds op mensen en systemen die AI gebruiken

De afgelopen jaren heeft China de combinatie van kunstmatige intelligentie, openbare veiligheid, big data en sociaal bestuur gestaag versterkt. Technologie zelf kan worden gebruikt in de gezondheidszorg, onderwijs, onderzoek en openbare diensten, en kan ook een multiplicator van politieke controle zijn. Het verschil is niet in algoritmen, maar in wie gegevens bezit, die.risk person.. en wie wordt geëtiketteerd door machines.

Wanneer een systeem religieuze identiteit, etnische achtergrond, politieke opvattingen, overzeese verbindingen of publieke expressie beschouwt als variabelen die continu moeten worden geregistreerd, AI niet automatisch de institutionele logica corrigeert; Integendeel, het kan bestaande vooroordelen sneller uitvoeren.

Van camera's die in de straten van Xinjiang zijn verzegeld tot automatisch gegenereerde monitoringrapporten, ontstaat een nieuwe technologieketen in Chinese digitale stabiliteit: front-end overal verzamelen, midden-end databases blijven clusteren, en back-end AI begint automatisch te begrijpen en classificeren.

Wat deze keten het meest gevraagd moet worden is niet hoeveel rapporten Claude schreef, maar hoeveel het een gemiddelde persoon kost om te ontsnappen aan een digitale waarnemer die nooit zal krijgen moe, uit de werksituatie komen, of vergeten wanneer de politieke bewaking het tijdperk van automatisering ingaat.