Anthropic onthult China-gerelateerde AI-monitoring: Claude wordt gebruikt om Oeigoeren te volgen en politieke monitoringsrapporten te genereren

Anthropic onthulde in een dreigingsinformatierapport dat in september werd gepubliceerd dat een aantal China-gerelateerde acties Claude hebben gebruikt om politieke bewaking, religieuze inlichtingen en grensoverschrijdende informatie te verwerken. De onderwerpen in het rapport omvatten Oeigoeren, Tibetaanse boeddhisten, Taiwanese politici, arbeiders en studenten, protestanten en buitenlandse media in Syrië. Deze gevallen tonen aan dat gecreëerde kunstmatige intelligentie is gebruikt om openbare informatie te verzamelen, personage te filteren, relaties te scheren en inlichtingenrapporten te schrijven.

Het eerste bewijs is afkomstig van de achtervolging van Oeigoeren in Syrië.Reuters schrapt gevallen op basis van Anthropic Threat Intelligence ReportEen operator gebruikte Claude om een Oeigoer te zoeken die mogelijk werd beïnvloed door geld of persoonlijke omstandigheden en probeerde informatie te verkrijgen over de Oeigoerse gewapende eenheden. Anthropic had minder vertrouwen in het oordeel dat de operator verband hield met het Chinese nationale veiligheidssysteem, maar geloofde dat het mogelijk een contractant was die voor de Chinese nationale veiligheidsdiensten werkte.

Het tweede bewijs verwijst naar het verzamelen van informatie over religieuze en politieke figuren.Anthropic zegt dat de Chinese affiliate operator Claude gebruikt om informatie te verzamelen over katholieke kardinalen, christelijke leiders in Taiwan, Tibetaanse boeddhisten, dissidenten en activisten. Het werk van de tool is niet een eenvoudige zoekopdracht, maar het transformeren van gedistribueerde informatie in persoonlijke archieven en analyseresultaten die direct beschikbaar zijn voor het bewakingssysteem.

Het derde bewijs is afkomstig van geautomatiseerde "regeringsvormige" surveillancerapporten.Anthropic onthult dat een andere Chinese affiliate-operatie Oeigoeren, Tibetanen, Taiwanese politici, arbeiders en studenten en buitenlandse media als het doel van de surveillance heeft geclassificeerd en Claude gebruikt om vergelijkbare rapporten te maken die intern worden gebruikt door de overheid. Deze stap is verder gegaan dan de "hulpverzameling" en gaat in de fase van het genereren van politieke inlichtingendiensten in massa.

Het Chinese ministerie van Buitenlandse Zaken reageerde dat het het rapport van Anthropic niet begreep en zei dat China voorstander is van de ontwikkeling van kunstmatige intelligentie in de richting van het goede, tegen het vervalsen van feiten en het negeren van China, terwijl Anthropic zei dat het bedrijf de betrokken accounts heeft geblokkeerd nadat de activiteiten werden ontdekt, en dat sommige commerciële monitoringsprojecten nog in de proeffase zijn.

Deze gevallen komen sterk overeen met bestaande politieke controles in China, waar uiguren, Tibetanen, religieuze groeperingen, dissidenten en sommige Taiwanese politici aanwezig zijn.Langdurig onderworpen aan verschillende niveaus van beveiliging en inlichtingenverzamelingDe veranderingen in de generatieve AI hebben geleid tot een verdere automatisering van de werkzaamheden die oorspronkelijk afhankelijk waren van kunstmatige verzameling, vertaling, filtering en ordening.

Het rapport van Anthropic heeft niet aangetoond dat elke actie rechtstreeks door de Chinese overheid wordt geleid, maar het heeft een duidelijke technische route aangetoond: nationale of par-nationale bewakingsnetwerken kunnen gebruikmaken van gecreëerde AI om het bereik van doelen uit te breiden, personage-imaging te versnellen en grensoverschrijdende bewaking om te zetten in massa-verwerkbare informatietechnologie. De meest directe waarde van dergelijke technologieën voor een beveiligingssysteem dat al in China is, is niet "chat", maar het verminderen van de kosten van mens en tijd voor politieke bewaking.