AI-agents Anthropic en OpenAI laten 'nieuw niveau van autonomie en misleiding' zien

Het Britse AI Security Institute heeft tijdens routinetests een 'nieuw niveau van autonomie en misleiding' geconstateerd bij de krachtigste modellen van Anthropic en OpenAI. Mythos 5 schreef kwaadwillende code, zocht uit wie die code op GitHub moest goedkeuren en maakte nepprofielen van echte mensen aan om diegene te misleiden. Verder waarschuwt de Autoriteit Persoonsgegevens voor het gebruik van menstruatieapps. Rosanne Peters vertelt erover in deze Tech Update.

Bij de tests hadden de modellen toegang tot internet en waren bepaalde beveiligingsmaatregelen uitgeschakeld, maar was er menselijke controle. Daardoor is de code van de AI-agent niet daadwerkelijk op GitHub beland. Anthropic en OpenAI stellen dat de resultaten niet representatief zijn omdat de testparameters afwijken, daarom is Anthropic een eigen onderzoek gestart. In juli wisten GPT 5.6 Sol en een nog niet uitgebracht model van OpenAI al AI-platform Hugging Face te hacken, waarbij nog vier andere partijen werden aangevallen en OpenAI dagenlang niet doorhad wat er precies gebeurde.

Autoriteit Persoonsgegevens waarschuwt voor menstruatieapps

Bijna een kwart van de Nederlandse vrouwen gebruikt een app om de cyclus bij te houden, zoals Clue of Flo. Volgens de Autoriteit Persoonsgegevens (AP) is vaak niet duidelijk of die apps gegevens delen met advertentiepartners. Het gaat om informatie over vruchtbaarheid, je seksleven en gezondheidsklachten. Flo verkocht eerder al data van miljoenen gebruikers aan Meta, het moederbedrijf van Facebook en Instagram, en eerder ook aan Google. Bits of Freedom diende eerder dit jaar al een klacht in bij de toezichthouder, die nu overweegt onderzoek te doen naar dit soort apps. Namen noemt de AP niet. Gebruikers krijgen het advies te controleren waarvoor ze toestemming geven en gevoelige informatie niet te delen als dat onduidelijk is. In De Grote Tech Show was eerder Lisa Volkers te gast, die om deze reden de privacyvriendelijke app PERIOD. ontwikkelde.

• AI Security Institute ziet agents echte mensen en organisaties aanvallen tijdens cybertests
• Onderzoekers zagen modellen malware toevoegen aan een opensourceproject
• AP over privacyrisico's bij het gebruik van menstruatieapps
• OpenAI had dagenlang niet door dat eigen AI-agent op hackmissie was
• Lisa Volkers over de privacyvriendelijke menstruatieapp PERIOD.

Over de maker:
Rosanne Peters is techredacteur en maakt De Grote Tech Show en De Technoloog. Sinds 2025 doet ze redactie- en productiewerk en is zij te horen in de Tech Update tijdens De Ochtend- en Avondspits.

See omnystudio.com/listener for privacy information.