Tech Update | BNR

OpenAI heeft meer dan honderd organisaties ingelicht over incidenten waarbij zijn AI-agents betrokken waren. Het gaat om gevallen waarin die agents, software die zelfstandig taken uitvoert, zonder toestemming toegang zochten tot externe systemen. Eerder drongen agents van het bedrijf al binnen bij AI-platform Hugging Face en bij websites van Amerikaanse universiteiten en Australische overheidsinstanties. Verder heeft OpenAI drie onderzoekers ontslagen, wil Anthropic voor Thanksgiving naar de beurs en sturen Amerikaanse vaders elkaar aardappels per drone. Stijn Goossens vertelt erover in deze Tech Update.

Om te achterhalen wat de agents precies hebben gedaan, doorzoekt OpenAI zo'n 50 petabyte aan data, ofwel ongeveer 50 miljoen gigabyte. Tijdens training en tests kregen sommige modellen internettoegang, terwijl dat niet de bedoeling was. Het onderzoek is volgens OpenAI nog niet afgerond en kan nog maanden duren. Intussen heeft het bedrijf de ontwikkeling van een nieuw groot model stilgezet om de situatie beter onder controle te krijgen.

Drie onderzoekers ontslagen bij OpenAI

Bij OpenAI zijn daarnaast abrupt drie onderzoekers ontslagen. In een verklaring aan de media stelt het bedrijf dat zij onzorgvuldig omgingen met gevoelige informatie en daarmee het bedrijfsbeleid hebben geschonden. Om welke informatie het precies gaat, maakt OpenAI niet bekend. Het zou onder meer gaan om werk waarbij AI-modellen werden beoordeeld. Bij die beoordelingen was ook een externe partij betrokken, en mogelijk is daarbij onzorgvuldig omgegaan met interne gegevens. Het ontslag volgt op een periode waarin OpenAI onder toenemende druk staat vanwege de incidenten met zijn AI-agents.

Anthropic wil voor Thanksgiving naar de beurs

Concurrent Anthropic wil al voor Thanksgiving, dat dit jaar op 26 november valt, naar de beurs. Dat melden bronnen aan Bloomberg. De beursgang zou al half november kunnen plaatsvinden. Dat Anthropic voor het einde van het jaar een beursnotering wil, was al langer bekend. Onzekerheid over AI-veiligheid, het ontbreken van regulering in de Verenigde Staten en een toename van AI-hacks maakten die planning de afgelopen tijd minder zeker. OpenAI stelde om die reden zijn beursgang al uit. Beleggers schatten de waarde van Anthropic op 1,8 tot 2 biljoen dollar, wat de beursgang samen met die van SpaceX tot een van de grootste ooit kan maken. Uit het beursprospectus blijkt verder dat chipmaker Broadcom tot 42 miljard dollar aan Anthropic uitleent, zodat Anthropic rekenkracht op chips van Broadcom kan huren. Zulke circulaire constructies, waarbij een leverancier zijn eigen klant financiert, komen in de AI-sector steeds vaker voor.

Amerikaanse vaders sturen elkaar aardappels per drone

In de Verenigde Staten wordt bezorging per drone steeds gewoner. Bedrijven als Amazon en Walmart bezorgen boodschappen met drones in de tuin van klanten. Een groep vaders in Texas ontdekte dat dat ook voor één enkele aardappel kan, schrijft techsite The Verge. Zo'n bezorging via Walmart en dronebezorger Wing kost 82 dollarcent, en volgens The Verge legt Wing daar geld op toe. Bovendien kan de besteller zelf kiezen of het pakketje in de eigen tuin landt of in die van iemand anders. De vaders zijn elkaar daarom aardappels gaan sturen en hebben er een groepsapp voor aangemaakt. Volgens de gebruiksvoorwaarden is dat officieel niet toegestaan, maar de bezorgdiensten grijpen vooralsnog niet in. De keuze voor een aardappel is praktisch: het product is goedkoop en zo willekeurig mogelijk.

• OpenAI informeert ruim honderd organisaties over ongeautoriseerde activiteit van zijn agents
• OpenAI neemt afscheid van drie onderzoekers uit zijn veiligheidsteam
• Anthropic mikt op beursgang voor Thanksgiving
• Broadcom leent Anthropic tot 42 miljard dollar om chips te huren

Over de maker:
Stijn Goossens is techredacteur en programmamaker bij BNR Nieuwsradio, met een focus op technologie, wetenschap en innovatie. Bij BNR Beter volgt hij de belangrijkste zorginnovaties, in de liveshows bespreekt hij het actuele technieuws en duidt hij nieuwe wetenschappelijke inzichten. Wekelijks test hij in De Schaal van Hebben de meest spraakmakende techproducten. Ook is hij te horen in de podcast Op de Zaak…

Anthropic gaat binnen enkele weken de meest waardevolle beursgang aller tijden beleven naar alle waarschijnlijkheid. Chipmaker Broadcom gaat volgens nieuwe informatie dan een verdiepende samenwerking aan met de ontwikkelaar van Claude, die tientallen miljarden dollars aan investering zal ontvangen, maar die ook gaat uitgeven aan AI-chips en rekenkracht. Joe van Burik vertelt erover in deze Tech Update.

See omnystudio.com/listener for privacy information.

Google zou slechts een klein aantal uitgevers betalen om hun content in de AI-samenvattingen van zoekmachine Search te gebruiken. Dat melden ingewijden aan The Information. Ongeveer honderd uitgevers zouden meedoen aan een pilot van Google daarvoor. Verder hoor je over de website van ShinyHunters. Die was even offline, maar dat heeft niks te maken met onderzoek van de FBI. Niels Kooloos vertelt erover in deze Tech Update.

Er is al langer veel te doen om de AI-samenvattingen in Search. Uitgevers klagen al langer dat de samenvattingen zorgen voor minder verkeer op hun sites en dus voor minder advertentie-inkomsten. Google zou met de pilot gestart zijn om de misgelopen inkomsten te compenseren, maar in sommige gevallen zouden uitgevers er minder dan een duizendste van hun reguliere advertentie-inkomsten mee verdienen.

Europese uitgevers zijn halverwege dit jaar naar de Europese Commissie gestapt om een antitrustklacht tegen Google in te dienen over de AI-samenvattingen.

ShinyHunters site offline, maar niet door de FBI
De website van hackersbende ShinyHunters op het dark web is vannacht offline gegaan. Niet omdat de FBI de groep opgerold zou hebben, maar omdat de site simpelweg onderhouden moest worden. Dat laat de groep aan BNR Nieuwsradio weten.

ShinyHunters zou naar eigen zeggen veel last hebben van DDoS-aanvallen van 'een rivaal' en heeft daarom maatregelen getroffen. 

• Google betaalt ongeveer honderd uitgevers voor AI-samenvattingen
• FBI noemt Pepijn van der S. ‘mogelijke leider’ van ShinyHunters, ook verdacht van uitlokken moorden

Over de maker:
Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.

See omnystudio.com/listener for privacy information.

Het Chinese AI-model Kimi van Moonshot blijkt na een zogeheten jailbreak te helpen met informatie over het maken van biologische wapens en het uitvoeren van dodelijke aanvallen. Dat meldt de BBC op basis van onderzoek door Mindgard, een bedrijf dat AI-systemen test op veiligheid. Moonshot reageerde pas serieus toen de BBC aan de bel trok. Verder komt Apple volgens Bloomberg op 13 oktober met een nieuw scherm voor in huis. Joe van Burik vertelt erover in deze Tech Update.

Het gaat om de varianten Kimi K3 Swarm en K2.6. Bij een jailbreak proberen onderzoekers een AI met complexe instructies om de tuin te leiden. Of de instructies echt werken, heeft Mindgard niet bewezen, maar volgens het bedrijf schiet de beveiliging tekort. Mindgard waarschuwde Moonshot eind juli en een week later opnieuw. Moonshot stelt dat het model zulke verzoeken heel vaak weigert. Kimi is een open model, dat iedereen zonder toezicht zelf kan draaien.

Apple komt met scherm voor in huis

Apple presenteert op 13 oktober naar verwachting een nieuw soort scherm voor in huis. Dat meldt Bloomberg. Het product heeft intern de codenaam J490, maar zal niet zo gaan heten. Het scherm is 6 inch groot en kan aan de muur worden bevestigd of op een voet worden geplaatst. Gebruikers moeten er allerlei zaken mee kunnen beheren, van de temperatuur in huis tot persoonlijke zaken. Op het gebied van het slimme huis heeft Apple nu weinig te bieden, behalve de HomePod, die al jaren oud is. Ook die speaker en de Apple TV voor bij de televisie worden naar verwachting vernieuwd. Google en Amazon bieden al vergelijkbare apparaten aan, met de Home hub en de Echo. Het scherm van Apple moet elk lid van een huishouden herkennen en ieder gepersonaliseerde inhoud bieden. Het apparaat wordt gekoppeld aan Siri AI.

• BBC News over Kimi en instructies voor biologische wapens
• Kimi K3 zo populair dat Moonshot geen nieuwe abonnees aanneemt
• VS onderzoekt of Chinese AI-modellen getraind zijn met Amerikaanse modellen
• Apple presenteert op 13 oktober drie nieuwe producten voor in huis
• Apple werkte eind 2024 al aan scherm met codenaam J490

Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.

See omnystudio.com/listener for privacy information.

President Donald Trump heeft een 'moreel akkoord' met de grote AI-ontwikkelaars ondertekend waarmee de veiligheid van AI-systemen gegarandeerd moet worden. In het akkoord staan vier punten die intern en extern toezicht op de ontwikkeling van AI moeten regelen. Verder hoor je over Dots, de nieuwe manier van werken met AI van OpenAI. Niels Kooloos vertelt erover in deze Tech Update.

Onder andere OpenAI, Anthropic en Nvidia hebben het akkoord van Trump ondertekend, maar het is niet juridisch bindend. Wel staat er in het akkoord dat de punten op termijn wellicht omgezet kunnen worden in wet- en regelgeving. Trump was eerder juist fel tegenstander van extra regels om AI te reguleren, maar lijkt nu een kleine ommedraai te maken.

OpenAI lanceert AI agents Dots
OpenAI heeft dinsdagavond Dots gelanceerd: AI agents die constant voor gebruikers werken en niet constant van nieuwe input voorzien hoeven te worden. Eerder kwamen Meta, Google en SpaceXAI al met soortgelijke AI agents zoals Muse en Grok Bot. 

AI-ontwikkelaars lijken steeds meer in te zetten op agents in plaats van op chatbots zoals we die nu kennen. Eerder deze week lanceerde Meta bijvoorbeeld ook Muse voor kleine bedrijven.

Dots is alleen beschikbaar voor betalende gebruikers van ChatGPT en voorlopig niet in de Europese Unie. 

• Trump tekent 'moreel akkoord' met AI-ontwikkelaars
• OpenAI lanceert Dots

Over de maker:
Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.

See omnystudio.com/listener for privacy information.

De 24-jarige Pepijn van der S., die eerder deze maand werd opgepakt door de Nederlandse politie omdat hij verdacht wordt van betrokkenheid bij hackersbende ShinyHunters, wordt ook verdacht van een poging van uitlokking van twee moorden. Dat laat de politie weten in een statement. Daarnaast heeft de FBI op X gezegd dat Pepijn 'een van de vermeende leiders van ShinyHunters is'. De groep zit onder andere achter hacks bij Odido en de FBI. Niels Kooloos vertelt erover in deze Tech Update.

Op een laptop van Pepijn heeft de Nederlandse politie informatie over twee moorden gevonden die in het buitenland gepleegd zouden moeten worden. Pepijn zou die mogelijk uitgelokt hebben. Of de moorden ook daadwerkelijk gepleegd zijn, heeft de politie niet gezegd.

Verder benadrukt de politie dat Pepijn alleen verdacht wordt van betrokkenheid bij ShinyHunters en niet van de hack bij telecombedrijf Odido. Naar aanleiding van de arrestatie van Pepijn sluit de politie nieuwe arrestaties niet uit.

Het Openbaar Ministerie onderschrijft de uitspraak van de FBI over Pepijns rol binnen ShinyHunters na vragen van BNR niet. Waarom de FBI Pepijn als één van de kopstukken van ShinyHunters ziet wordt verder ook niet toegelicht door de FBI zelf. 

• FBI noemt Pepijn van der S. ‘mogelijke leider’ van ShinyHunters, ook verdacht van uitlokken moorden
• ShinyHunters beweert geen connectie te hebben met opgepakte Nederlander

Over de maker:
Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.

See omnystudio.com/listener for privacy information.

AI-bedrijf Anthropic waarschuwt toekomstige investeerders in de prospectus voor zijn beursgang dat zijn AI 'catastrofale of existentiële risico's voor de mensheid' kan vormen. Het bedrijf verwacht binnen enkele weken naar de beurs te gaan, in wat de meest waardevolle beursgang ooit moet worden, bij een beurswaarde van 2.000 miljard dollar. Verder stelt OpenAI de lancering van zijn nieuwste AI-model uit en weigert Google zoekdata te delen met concurrenten, zoals Brussel eist. Joe van Burik vertelt erover in deze Tech Update.

Een prospectus moet investeerders laten zien waar ze hun geld in steken en wat de afbreukrisico's zijn. Die van Anthropic telt 260 pagina's. Bijna een kwart daarvan, zo'n 80 pagina's, gaat over wat er concreet mis kan gaan met AI. Anthropic noemt onder meer 'gedragingen door AI om zichzelf in stand te houden', 'weigeren uit te gaan', 'informatie verbergen of manipuleren' en 'gedrag dat lijkt op chantage'.

Miljardenverlies bij Anthropic en uitstel bij OpenAI

Uit de prospectus blijkt ook hoe Anthropic er financieel voor staat. Vorig jaar leed het bedrijf 42 miljard dollar verlies, op een omzet van 4,6 miljard dollar. Die omzet was twaalf keer zo hoog als een jaar eerder. Dit jaar verwacht Anthropic al op 100 miljard dollar omzet uit te komen. Daar staat tegenover dat het bedrijf de komende jaren 518 miljard dollar wil uitgeven aan rekenkracht en cloudcapaciteit. Concurrent OpenAI, de maker van ChatGPT, gaat pas volgend jaar naar de beurs. Dat bedrijf brengt zijn nieuwste AI-model voorlopig niet uit, omdat de veiligheid niet gegarandeerd kan worden. Ook bood OpenAI excuses aan omdat een AI-agent van het bedrijf, software die zelfstandig taken uitvoert, Australische overheidswebsites heeft gehackt. Het bedrijf richt nu een taskforce op.

Google weigert zoekdata te delen met concurrenten

Google weigert zich te houden aan een Europees besluit dat het bedrijf verplicht meer data over zoekgedrag te delen met concurrenten. De Europese Unie wil de marktmacht in het digitale domein zo eerlijk mogelijk verdelen, waardoor zoeken via Google, ChatGPT of DuckDuckGo zo gelijkwaardig mogelijk moet worden. De verplichting is opgelegd vanuit de Digital Markets Act, de Europese wet die de macht van grote techbedrijven moet inperken. Brussel legde de maatregel in juli officieel op, en heeft dat inmiddels twee keer gedaan. Google stelt dat het delen van deze data de privacy van gebruikers schendt. Dat liet het bedrijf weten aan het Hof in Luxemburg, waar het in beroep is gegaan. De Europese Commissie zegt juist maatregelen te hebben genomen die voorkomen dat gevoelige persoonlijke informatie uit zoekopdrachten, zoals medische zaken, kan uitlekken. DuckDuckGo steunt de Commissie en stelt dat een beroep Google alleen tijd oplevert.

• Anthropic waarschuwt in prospectus voor existentiële risico's van AI
• Anthropic meldt twaalf keer hogere omzet in prospectus voor beursgang
• OpenAI biedt excuses aan voor hack en schrapt lancering nieuw model
• Google moet zoekgeschiedenis delen met OpenAI onder Digital Markets Act

Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.

See omnystudio.com/listener for privacy information.

Nvidia heeft het Open Agent Safety Platform onthuld, een systeem dat moet voorkomen dat AI-agents uitbreken uit hun afgeschermde omgeving. De AI-chipmaker reageert daarmee op de recente zorgen over hacks door AI-agents, zoals de veelbesproken inbraak door AI-systemen van OpenAI bij het AI-platform Hugging Face. Verder pauzeert OpenAI de ontwikkeling van zijn krachtigste modellen en vragen toponderzoekers om overheidsbemoeienis bij AI die zichzelf doorontwikkelt. Joe van Burik vertelt erover in deze Tech Update.

AI-agents zijn AI-systemen die zelfstandig taken uitvoeren. Het platform werkt als een kooi: binnen de grenzen kunnen agents hun werk doen, maar uitbreken moet onmogelijk worden. Dat gebeurt met twee stukken software. OpenShell, dat Nvidia in maart al toonde, bepaalt waar een AI-agent wel en niet bij mag en is open source. Het nieuwe Sentry houdt het gedrag van agents in de gaten en kan ingrijpen zodra een agent buiten zijn grenzen probeert te treden. Beide draaien op hardware van Nvidia.

Onduidelijk welke AI-bedrijven het platform inzetten

Of het platform ook echt gebruikt gaat worden bij de ontwikkeling van de krachtigste AI-modellen, laat Nvidia in het midden. Het bedrijf zegt niet of de Amerikaanse koplopers OpenAI en Anthropic ermee aan de slag gaan; dat moeten die bedrijven volgens Nvidia zelf bekendmaken. Nvidia ontwikkelde het platform wel samen met Microsoft, Cisco, Oracle, Intel en Arm. Topman Jensen Huang heeft eerder gezegd dat de ontwikkeling van AI wat hem betreft niet hoeft te worden afgeremd. Het platform moet daarbij helpen als een soort vangrail, zodat de ontwikkeling op volle snelheid kan doorgaan. Ook is Nvidia bezig met de overname van Hugging Face, het platform waarop ontwikkelaars open AI-modellen delen.

OpenAI pauzeert ontwikkeling van krachtigste modellen

Los van het nieuwe platform heeft OpenAI de ontwikkeling van zijn krachtigste AI-modellen gepauzeerd. Het bedrijf, waarvan AI-systemen eerder bij Hugging Face binnendrongen, maakte dat afgelopen weekend bekend. Anthropic heeft zo'n stap nog niet aangekondigd, ook niet na een diner van topman Dario Amodei met de Amerikaanse president Donald Trump op zondagavond. Tegelijkertijd bericht The Wall Street Journal over nieuwe zorgen uit de AI-sector zelf. Toponderzoekers van onder meer OpenAI, Anthropic, Meta en Microsoft vragen daarin om overheidsbemoeienis bij hun onderzoek. Het gaat specifiek om AI die zichzelf kan doorontwikkelen. Daarbij bouwt een AI-systeem zelfstandig aan een krachtigere opvolger.

• Nvidia presenteert het Open Agent Safety Platform met OpenShell en Sentry
• Nvidia wil met nieuw platform uitbraken van AI-agents voorkomen
• Hoe OpenShell en Sentry samen AI-agents afschermen en bewaken
• Nvidia koopt AI-platform Hugging Face voor bijna 13 miljard dollar
• OpenAI legt werk aan krachtigste AI-modellen stil na nieuw incident

Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.

See omnystudio.com/listener for privacy information.

OpenAI stopt voorlopig met het trainen van nieuwe AI-modellen, omdat die onbedoeld meerdere overheden en bedrijven hebben gehackt de laatste tijd. Volgens het bedrijf moeten er eerst goede veiligheidsmaatregelen ingevoerd zijn. Verder hoor je over een lek in de Netscaler-software van Citrix, waardoor ziekenhuizen uit voorzorg hun systemen offline hebben gehaald. Niels Kooloos vertelt erover in deze Tech Update.

Het is nu voor de tweede keer dat OpenAI op de 'pauzeknop' drukt en stopt het met trainen van nieuwe AI-modellen. In juli deed het bedrijf dat voor het eerst naar aanleiding van de hack bij Hugging Face. Toen viel een zwerm AI-agents van OpenAI het platform aan, terwijl OpenAI daar geen instructies voor had gegeven.

Afgelopen week werd bekend dat agents van OpenAI ook de Australische overheid, de Amerikaanse en de Verenigde Naties hebben gehackt of lastiggevallen. Zo braken agents in bij een zorgverzekerinsplatform van Australië en dienden ze duizenden informatieverzoeken bij de VN in, wat het netwerk belastte. Beide incidenten vonden al in juni plaats.

Ziekenhuizen halen systemen offline door lek in Netscaler
Doordat er nieuwe kwetsbaarheden in de Netscaler-software van Citrix ontdekt zijn, hebben meerdere Nederlandse ziekenhuizen en de Rijksoverheid hun IT-systemen van het internet losgekoppeld. Met Netscaler kan men onder andere op afstand inloggen bij een organisatie om bijvoorbeeld thuis te werken of gegevens in te zien.

Citrix informeerde klanten afgelopen weekend over de kwetsbaarheden, waarna het Nederlands Cyber Security Centrum (NCSC) met een oproep aan organisaties kwam om zo snel mogelijk de systemen te updaten. Afgelopen jaar werden er soortgelijke kwetsbaarheden in de software van Citrix ontdekt, waarna onder andere het Openbaar Ministerie werd gehackt.

• OpenAI stopt met het trainen van nieuwe AI-modellen
• NCSC waarschuwt voor kwetsbaarheden in Citrix

Over de maker:
Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.

See omnystudio.com/listener for privacy information.

In deze aflevering van De Schaal van Hebben bespreekt techredacteur Stijn Goossens de nieuwe iPhone 18 Pro van Apple, terwijl presentator Bas van Werven hoort of hij met zijn net aangeschafte iPhone 17 Pro iets heeft gemist.

De iPhone 18 Pro is het nieuwste proflagshipmodel van Apple en kwam vorige week uit, in de kleuren bordeauxrood en blauw naast de bestaande zilver en zwart. Het toestel krijgt de nieuwe A20-chip, voor het eerst gebouwd op een 2 nanometerproces en qua architectuur meer gelijkend op een laptopchip. Een grotere dampkamer moet voor betere koeling zorgen, wat volgens Stijn bij het vorige model nog een pijnpunt was. De Dynamic Island is kleiner geworden doordat de infraroodsensor nu onder het scherm zit. In Europa begint de prijs bij 1480 euro, 150 euro meer dan de voorganger.

De belangrijkste verandering zit in de hoofdcamera, die voor het eerst een variabel diafragma heeft: gebruikers kunnen zelf instellen hoeveel licht er op de sensor valt, wat vooral bij nachtfotografie meer controle geeft. Het diafragma werkt alleen op de hoofdcamera en is door de mechanische werking kwetsbaarder. Daarnaast voegt Apple nieuwe pro-instellingen toe, zoals aanpasbare sluitertijd en witbalans, al zijn die volgens Stijn wat priegelig in gebruik. Een kritiekpunt is dat de iPhone 18 Pro in Europa niet over de nieuwste Siri AI-functies beschikt die in de Verenigde Staten al beschikbaar zijn, door onenigheid tussen Apple en Europese marktregels.

Voor bezitters van een iPhone 17 Pro levert de 18 Pro weinig extra's op. Wie overstapt van een iPhone 14 Pro of ouder en veel waarde hecht aan camerafuncties, krijgt volgens Stijn wel een toestel dat de investering waard is.

See omnystudio.com/listener for privacy information.

Een AI-agent van OpenAI drong via omwegen binnen bij het Australische Medicare-systeem en probeerde ook bij andere overheids- en universiteitssites data te bemachtigen, blijkt uit een rapport van onderzoeksgroep Transluce. Premier Anthony Albanese maakte het incident deze week onderwerp van zijn toespraak voor de Verenigde Naties, waarin hij opriep tot internationale regels voor AI. Verder krijgt Elon Musk steun van de Amerikaanse overheid in zijn rechtszaak tegen een Europese boete, en waarschuwt het Drents Archief voor AI die verzonnen archiefstukken produceert. Stijn Goossens vertelt erover in deze Tech Update.

Volgens Transluce gaat het niet om gerichte aanvallen: de AI-agents grepen pas naar hacktechnieken toen normale methodes om data te verzamelen niet werkten. Naast de Australische overheidssite deden ze ook pogingen bij een universiteit, met activiteit die teruggaat tot maart en mogelijk nog altijd doorgaat. Ook Sam Altman en Dario Amodei spraken deze week bij de VN over AI-veiligheid.

Musk krijgt steun van VS in rechtszaak tegen EU-boete

De Europese Commissie legde X, het platform van Elon Musk, in december een boete op van 120 miljoen euro wegens het niet naleven van de Digital Services Act. Die wet verplicht platforms transparanter te zijn over het gebruik van gebruikersdata en verbiedt het misleiden van klanten met het blauwe vinkje voor een geverifieerd account. Musk vocht de boete aan via een rechtszaak, en nu steunt het Amerikaanse ministerie van Justitie hem daarin. Volgens het ministerie overschrijdt de EU haar bevoegdheden door Amerikaanse bedrijven aan te pakken die niet in Europa ondernemen. Ook zou de boete onredelijk hoog zijn omdat die is gebaseerd op de inkomsten van al Musks bedrijven in plaats van alleen X. De EU heeft meer zaken lopen tegen Musk, onder meer rond chatbot Grok, en beboette recent ook Apple voor 500 miljoen euro onder de Digital Markets Act.

Drents Archief waarschuwt voor AI bij stamboomonderzoek

Het Drents Archief ziet steeds vaker mensen die met AI-hulp stamboomonderzoek doen en vervolgens aankloppen voor documenten die niet bestaan of namen van personen die verzonnen zijn. Volgens andere archieven wordt bij ongeveer 10 procent van de aanvragen AI gebruikt. De onderzoeken zien er overtuigend uit, maar kloppen vaak niet: geboorteaktes, overlijdensaktes en huwelijksaktes staan bijvoorbeeld onder heel andere inventarisnummers dan AI aangeeft, of bestaan helemaal niet. Mensen die de gegevens opvragen zijn er zelf van overtuigd dat ze kloppen, wat het archief onnodig veel tijd kost om uit te zoeken. AI kan volgens het archief ook wel helpen, bijvoorbeeld bij het ontcijferen van oude handschriften of het ordenen van data, maar gebruikers moeten kritisch blijven op wat de technologie oplevert.

• Albanese noemt AI en klimaatverandering grootste wereldwijde uitdagingen bij VN
• Onderzoeksgroep Transluce vindt meerdere pogingen tot AI-hacks bij overheidssites
• Amerikaanse overheid steunt Musk in rechtszaak tegen boete van Europese Commissie
• Drents Archief waarschuwt voor door AI verzonnen archiefstukken

Over de maker:
Stijn Goossens is techredacteur en programmamaker bij BNR Nieuwsradio, met een focus op technologie, wetenschap en innovatie. Bij BNR Beter volgt hij de belangrijkste zorginnovaties, in de liveshows bespreekt hij het actuele technieuws en duidt hij nieuwe wetenschappelijke inzichten. Wekelijks test hij in De Schaal van Hebben de meest spraakmakende techproducten. Ook is hij te horen in de podcast Op de Zaak, met een inkijkje bij buitengewone mkb'ers.

See omnystudio.com/listener for privacy information.

Google stuurt volgende week voor het eerst eigen AI-chips de ruimte in. Onder de werktitel Project Suncatcher vliegt een satelliet met Tensor Processing Units mee op een raket van SpaceX, om te testen hoe de chips omgaan met straling en extreme temperaturen. Het project moet uiteindelijk leiden tot datacenters in de ruimte. Verder blijkt het nieuwe Hyves volgens Follow the Money toch deels op Amerikaanse technologie te draaien. Joe van Burik vertelt erover in deze Tech Update.

Datacenters in de ruimte zijn ook een ambitie van Elon Musk met SpaceX. In de ruimte is volop zonne-energie beschikbaar en koeling zou er eenvoudiger moeten zijn. De satelliet van Google vliegt mee op de raket Transporter-18. Naast de chips test Google een koelsysteem met warmtebuizen en radiatoren, omdat koelen met luchtstroom in het vacuüm van de ruimte onmogelijk is. Volgens experts zijn commerciële datacenters in de ruimte nog jaren weg. In 2027 wil Google twee satellieten lanceren om laserverbindingen tussen toekomstige rekenclusters te testen.

Hyves draait deels op Amerikaanse technologie

Het nieuwe Hyves draait niet volledig op Europese technologie, zoals de makers stelden. Het platform gebruikt wel een cloud van het Franse Scaleway, maar volgens Follow the Money lopen automatische mails, bijvoorbeeld om je wachtwoord te herstellen, via het Amerikaanse Mailgun en gaat het inloggen via FusionAuth, met software van Amazon. Ook kwamen lettertypes van de servers van Google. Roger Rosweide van ontwikkelaar Apadmi laat aan BNR weten dat die lettertypes sinds gisteren niet meer worden gebruikt en dat Mailgun en FusionAuth op Europese servers draaien. Verder verzamelt Hyves volgens de privacyverklaring wel gebruikersdata, terwijl de makers zeiden geen tracking toe te passen. Moederbedrijf Mediahuis kan bepaalde informatie gebruiken en in bepaalde vorm delen met adverteerders. Het platform is in drie maanden gebouwd en telt al meer dan 250.000 aanmeldingen.

• Google stuurt eigen AI-chips volgende week voor het eerst de ruimte in
• Google legt uit hoe Project Suncatcher chips test voor de ruimte
• Ontwikkelaar Apadmi reageert op Amerikaanse technologie achter Hyves
• Follow the Money vindt Amerikaanse software in de systemen van Hyves
• Kwart miljoen mensen melden zich aan voor het nieuwe Hyves

Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.

See omnystudio.com/listener for privacy information.

OpenAI-topman Sam Altman en Anthropic-topman Dario Amodei hebben de Veiligheidsraad van de Verenigde Naties toegesproken over de risico's en gevaren van AI. Beide topmannen benadrukten in New York dat er meer wet- en regelgeving nodig is. Verder hoor je over een OpenAI-agent die een Australische overheidswebsite heeft gehackt. Niels Kooloos vertelt erover in deze Tech Update.

Altman was fysiek aanwezig in de zaal en hield een gematigder verhaal dan Amodei. Volgens Altman staat de mensheid voor een keuze om een 'renaissance' of een 'revolutie van wanorde' te starten met AI. Opvallend genoeg benoemde Altman niet het risico dat AI de mensheid zou kunnen uitroeien, zoasl hij eerder wel deed. Amodei deed dat expliciet wel. Hij zei dat AI een 'risico voor de hele mensheid' is als de technologie niet in toom wordt gehouden. 

Wat de Veiligheidsraad naar aanleiding van de boodschap van Altman en Amodei gaat doen is nog niet bekend. Donderdag ontmoeten de Chinese president Xi Jinping en de Amerikaanse president Donald Trump elkaar nog om over AI te praten.

AI-agent van OpenAI hackt Australische overheidswebsite
Een AI-agent van OpenAI heeft een overheidswebsite van Australië gehackt in juni. Dat maakte de Australische premier Anthony Albanese woensdag bekend bij de Verenigde Naties in New York. De agent van OpenAI brak in op een website voor zorgverzekeringen van de overheid.

Albanese maakt zich 'extreme zorgen' om de hack en uitte bij de VN frustratie over het feit dat OpenAI de Australische overheid begin deze maand pas inlichtte over het incident. 

• Anthropic-topman Amodei waarschuwt VN-Veiligheidsraad voor risico's van AI
• OpenAI-topman Sam Altman waarschuwt VN-Veiligheidsraad voor risico's van AI
• AI van OpenAI drong medische database Australische overheid binnen

Over de maker:
Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.

See omnystudio.com/listener for privacy information.

Discord is woensdag wereldwijd gestart met de leeftijdsverificatie van gebruikers. Dat wilde het chatplatform eigenlijk begin dit jaar al doen, maar zag daar destijds van af omdat gebruikers zich er massaal verzette tegen. Verder hoor je over de phisingaanval op onlinebank Revolut, want alle gestolen gegevens worden te koop aangeboden op het dark web. Niels Kooloos vertelt erover in deze Tech Update.

Hoewel de leeftijden van alle gebruikers van Discord gecontroleerd worden, gaat 90 procent daar niks van merken volgens het platform. In de eerste instantie deelt een machinelearningmodel namelijk gebruikers automatisch in leeftijdscategorieën in. Daardoor zullen gebruikers onder de 18 bijvoorbeeld geen toegang meer hebben tot zogeheten not-safe-for-work-kanalen op Discord.

Gebruikers die vinden dat ze in de verkeerde leeftijdscategorie ingedeeld zijn, kunnen hun leeftijd aanpassen door een handmatige check te doen. Dat kan bijvoorbeeld met de Apple App Store, Google Play Store, een creditcard, een scan van het gezicht of met een kopie van een identiteitsbewijs.

Gegevens slachtoffers phishingaanval Revolut op dark web
De gegevens van alle slachtoffers van de phishingaanval op Revolut worden te koop aangeboden op het dark web. Dat laten de criminelen die achter de phishingaanval zitten weten aan BNR Nieuwsradio. Afgelopen week stelden de criminelen een ultimatum aan Revolut om 3 miljoen dollar aan cryptovaluta over te maken, maar dat is niet gebeurd.

In een advertentie op een Russisch darkwebforum vragen de criminelen 300 duizend dollar voor de gegevens, die onder andere bestaan uit namen, emailadressen, kopieën van paspoorten en transactieoverzichten. De criminelen wisten de gegevens in handen te krijgen door zich voor te doen als het Italiaanse ministerie van Binnenlandse Zaken en informatieverzoeken in te dienen bij Revolut. 

• Discord rolt wereldwijde leeftijdsverificatie uit
• Gegevens alle slachtoffers phishingaanval Revolut te koop op dark web

Over de maker:
Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.

See omnystudio.com/listener for privacy information.

Hackersgroep ShinyHunters, in Nederland bekend van de aanval op Odido eerder dit jaar, claimt de FBI te hebben gehackt. De groep zou gegevens hebben buitgemaakt van vrijwel alle huidige en voormalige agenten van de Amerikaanse binnenlandse veiligheidsdienst, evenals van iedereen die er ooit solliciteerde. Volgens ShinyHunters is de hack vergelding. Verder brengt Anthropic in aanloop naar zijn beursgang een nieuw AI-model uit. Joe van Burik vertelt erover in deze Tech Update.

De FBI beschreef de groep in mei openlijk en adviseerde slachtoffers nooit losgeld te betalen bij een ransomwareaanval. De FBI laat weten op de hoogte te zijn van meldingen over ongeautoriseerde toegang tot vacaturesite FBIjobs.gov en doet onderzoek. Met Reuters deelde de groep een kleine set data met namen, adressen, opdrachten en soms namen van familieleden. Controle leverde meerdere overeenkomsten op, maar of de hack echt geslaagd is, staat nog niet vast. Omdat agenten aan zaken tegen zware criminelen werken, zijn gelekte familiegegevens een groot risico.

Anthropic brengt nieuw AI-model Opus 5.5 uit

Anthropic, het AI-bedrijf achter chatbot Claude, heeft Opus 5.5 uitgebracht, het nieuwste model van het bedrijf. Wie Claude gebruikt, kan een update naar dat model verwachten. Volgens Anthropic is Opus 5.5 een alleskunner die helderder schrijft en een stuk zuiniger is dan voorganger Opus 5. Voor de allerzwaarste taken blijft het bedrijf Fable 5.1 aanbieden. Efficiëntie is een belangrijk element geworden in de AI-race, nu gebruikers betalen naar gebruik. In de komende weken volgt ook versie 5.5 van de kleinere modellen Sonnet, bedoeld voor alledaags werk, en Haiku, voor snelle antwoorden. Anthropic wil daarmee concurrenten als OpenAI, Google en Chinese AI-bedrijven voorblijven. Eind volgende maand gaat het bedrijf naar de beurs, naar verwachting de grootste beursgang ooit, met een beoogde waarde van 2.000 miljard dollar.

• ShinyHunters zegt FBI te hebben gehackt en data van medewerkers te hebben gestolen
• FBI onderzoekt claims over ongeautoriseerde toegang tot FBIjobs.gov
• Hackers zetten voor derde dag op rij klantgegevens Odido online
• Anthropic introduceert Claude Opus 5.5
• Anthropic mogelijk twee biljoen dollar waard bij beursgang dit najaar

Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.

See omnystudio.com/listener for privacy information.

OpenAI-topman Sam Altman, Anthropic-topman Dario Amodei en afgevaardigden van de Chinese AI-startup DeepSeek gaan woensdag met de Veiligheidsraad van de Verenigde Naties in gesprek over de risico's van AI. Dat melden ingewijden aan persbureaus Bloomberg en Reuters. Niels Kooloos vertelt erover in deze Tech Update.

Weken nadat OpenAI, Anthropic en andere AI-bedrijven aan de bel trokken over de veiligheid van AI, heeft de VN-Veiligheidsraad het onderwerp op de agenda gezet, maar wat er woensdag precies aan bod gaat komen is nog niet duidelijk. Evenmin is duidelijk wat Altman en Amodei gaan vertellen. Beiden hebben eerder wel gepleit voor een vertraging van het ontwikkelingstempo van AI-systemen, onder andere naar aanleiding van de hack bij Hugging Face.

Wat het Chinese DeepSeek gaat inbrengen is ook nog niet bekend. Wel heeft China eerder gepleit om het ontwikkelingstempo van AI juist niet af te remmen. Chinese staatsmedia stellen dat Amerikaanse AI-ontwikkelaars een draaiboek uit de Koude Oorlog gebruiken om ervoor te zorgen dat de Verenigde Staten technologisch superieur blijven.

• Bronnen melden dat DeepSeek deze week de VN-Veiligheidsraad zal informeren over AI
• Anthropic-CEO Dario Amodei informeert VN-Veiligheidsraad over AI

Over de maker:
Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.

See omnystudio.com/listener for privacy information.

Het Nederlandse sociale netwerk Hyves is vandaag opnieuw online gegaan. Het initiatief komt van Mediahuis, bekend als uitgever van onder meer NRC, samen met technisch ontwikkelaar Apadmi. De makers benadrukken dat het platform is gebouwd op Europese technische architectuur, met servers in Europa en zonder het delen van gebruikersdata met derde partijen. De huidige versie is nadrukkelijk een eerste versie. Hyves werd in 2004 opgericht en groeide uit tot het grootste sociale netwerk van Nederland, voordat het in 2010 werd verkocht aan het mediabedrijf achter De Telegraaf en enkele jaren later wegkwijnde door de opkomst van Facebook. Het nieuwe Hyves kiest niet voor verslavende algoritmes of eindeloze scroll, en brengt bekende elementen terug zoals krabbels, glitterplaatjes, gifjes en dansende bananen. Joe van Burik vertelt erover in deze Tech Update.

Meta's AI-assistent Muse eerste grote AI-hit voor Zuckerberg

Meta heeft met zijn nieuwe AI-agent Muse voor het eerst een duidelijke hit te pakken op het gebied van kunstmatige intelligentie. Sinds de release staat de app bovenaan in de downloadlijstjes van Apple en Google in de Verenigde Staten. Met Muse kunnen gebruikers een eigen AI-agent maken die namens hen dingen op internet regelt, gekoppeld aan onder meer Instagram, Facebook, Gmail en de agenda. Amazon laat inmiddels weten niet blij te zijn met de komst van Muse, en in Nederland is website Hyves na dertien jaar opnieuw gelanceerd. Joe van Burik vertelt erover in deze Tech Update.

Muse is niet zomaar een chatbot die antwoord geeft op vragen, maar een AI-agent die zelfstandig actie kan ondernemen namens de gebruiker. Het systeem baseert zich op gedrag van de gebruiker op Instagram en Facebook en kan daardoor ook namens die persoon reageren. De app is voorlopig alleen beschikbaar in de Verenigde Staten en nog niet in de Europese Unie. Sinds de release staat Muse in de VS bovenaan de downloadlijstjes van zowel de App Store van Apple als de Play Store van Google. Daarmee lijkt het product eindelijk iets op te leveren van de tientallen miljarden dollars die Meta de afgelopen jaren in AI heeft geïnvesteerd.

Amazon weert Muse AI van zijn webwinkel

Amazon wil niet dat gebruikers hun AI-agent boodschappen laten doen op het platform. Een AI-agent is minder gevoelig voor aanbiedingen, gebruikersreviews en advertenties dan een gewone bezoeker, en dat raakt het verdienmodel van Amazon. Een woordvoerder van het bedrijf meldt aan Amerikaanse media dat Muse AI wordt geweerd. Amazon had Meta eerder al gevraagd om Muse niet naar de webwinkel te laten gaan, maar Meta ging daar niet in mee. Volgens Amazon worden de gebruiksvoorwaarden geschonden bij het gebruik van zo'n AI-agent. Eerder klaagde Amazon om vergelijkbare redenen ook al AI-partij Perplexity aan, omdat die weigerde om zijn AI-agent Comet weg te houden bij het platform.

• Meta lanceert AI-agent Muse die taken online voor gebruikers uitvoert
• Amazon stuurde eerder al een cease-and-desist naar Perplexity om AI-aankopen te stoppen
• Investeerders van Hyves zijn onder meer Mediahuis en Endeit Capital

Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.

See omnystudio.com/listener for privacy information.

Google heeft een flinke boete van 403 miljoen euro van de Ierse privacywaakhond gehad, de Data Protection Commission (DPC). Die beschuldigd Google van het misbruiken van locatiegegevens van gebruikers, om ze bijvoorbeeld gepersonaliseerde advertenties voor te schotelen. Verder hoor je over een opvallende ruzie in de hackerswereld. Niels Kooloos vertelt erover in deze Tech Update.

Volgens de DPC heeft Google tussen mei 2018 en februari 2020 gebruikers onvoldoende geïnformeerd over hoe hun locatiegegevens gebruikt werden. Ook zouden locatiegegevens te lang bewaard zijn door Google.

Google laat in een reactie weten dat het sinds 2019 een andere werkwijze hanteert. Waarschijnlijk gaat de techreus beroep aantekenen tegen de boete. De DPC heeft de boete alleen nog aangekondigd en moet nog een volledige onderbouwing publiceren.

Ruzie tussen ShinyHunters en Russische ransomwarebende
In de hackerswereld is een opvallende ruzie tussen hackersbende ShinyHunters en de Russische ransomwarebende cl0p ontstaan. ShinyHunters, bekend in Nederland van het Odido-lek, claimt dat cl0p onterecht iets van ShinyHunters heeft gestolen en heeft daarom de Russische ransomwarebende gehackt. cl0p claimde in augustus nog Philips en Shell gehackt te hebben. 

Op de sites van beide bendes op het dark web zijn verschillende berichten te lezen. Zo schrijft ShinyHunters dat cl0p snel moet reageren en stelt cl0p dat de groep poogt om contact op te nemen. ShinyHunters eist onder andere dat cl0p het losgeld betaald dat de groep afgelopen jaar van bedrijven kreeg na een hack van de Oracle E-Business Suite, een zakelijk softwarepakket

• Data Protection Commission legt Google boete van 403 miljoen euro op
• Hackersbende Shinyhunters hackt rivaal: ‘Leeg je zakken’

Over de maker:
Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.

See omnystudio.com/listener for privacy information.

De Verenigde Staten en China hebben voorafgaand aan de top tussen president Trump en Xi Jinping deze week in Washington al overleg gevoerd over kunstmatige intelligentie. Minister van Financiën Scott Bessent noemt de gesprekken van enkele uren in New York met een Chinese delegatie zeer succesvol. Beide landen willen een notificatiemechanisme opzetten om elkaar te waarschuwen bij AI-incidenten die de nationale veiligheid raken. Ook meldt Google zich in de rij techbedrijven waarvan een AI-model een systeem hackte. Joe van Burik vertelt erover in deze Tech Update.

Het Chinese staatspersbureau spreekt van open, diepgaande en constructieve gesprekken, die naast AI ook over handel en investeringen gingen. Beide landen willen in een US-China AI dialogue in kaart brengen welke doelen en dreigingen rond AI spelen. Over Amerikaanse exportrestricties op AI-chips is niet gesproken. Ook het feit dat Chinese AI-ontwikkelaars meermaals zijn beschuldigd van het aftappen van data, wat Peking ontkent, lijkt niet benoemd.

Gemini van Google hackt per ongeluk drie bedrijven

Google meldt dat zijn AI-model Gemini in mei tijdens een beveiligingstest van het externe bedrijf Irregular per ongeluk drie echte bedrijven binnendrong. Gemini moest informatie ophalen bij een fictief bedrijf, maar dat deelde de naam met een bestaand bedrijf. Door een verkeerde configuratie kreeg het model onbedoeld internettoegang en drong het bij één bedrijf een wachtwoordbeveiligd systeem binnen door willekeurige tekencombinaties te proberen, ook wel brute forcen genoemd. Bij twee andere bedrijven gebruikte Gemini inloggegevens die het via publieke online repositories vond. Zodra het model doorhad dat het om echte bedrijven ging, stopte het uit zichzelf. Google noemt het incident een geval van verwisseling en geen misalignment, en zegt daarom destijds niet naar buiten te zijn getreden. Het bedrijf werkte met Irregular de testprocedures bij en informeerde de drie getroffen bedrijven.

• Bessent zegt open te staan voor AI-gesprekken met China over gedeelde risico's
• Reuters meldt dat VS en China in september AI-overleg gaan voeren
• Google bevestigt dat Gemini per ongeluk drie echte bedrijven hackte
• Wall Street Journal onthult dat Gemini uit testomgeving brak

Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.

See omnystudio.com/listener for privacy information.

Het Chinese merk XTEINK brengt met de X3 een pocket e-reader op de markt die niet groter is dan een creditcard en zich met ingebouwde magneten aan de achterkant van een smartphone laat bevestigen. Het toestel heeft een scherm van 3,7 inch, weegt 58 gram en is 5,1 millimeter dun, zonder touchscreen; bediening verloopt via knoppen. De XTEINK X3 kost 70 tot 80 euro en moet rechtstreeks uit China worden geïmporteerd. Stijn Goossens vertelt erover in deze Tech Update.

Standaard wordt een SD kaart van 16 gigabyte meegeleverd en gaat de batterij circa 10 uur gebruik mee. Dit soort compacte e-readers is populair omdat gebruikers er makkelijk mee kunnen lezen zonder op hun telefoon te zitten. De magnetische bevestiging aan de achterkant van een smartphone blijkt niet altijd stevig te zitten. XTEINK bracht recent ook de X4 Pro uit, die wel een touchscreen en een ingebouwd lampje heeft en 30 euro meer kost.

• Xteink lanceert kleinere e-reader X3 met NFC en gyroscoop
• Vergelijking tussen de modellen Xteink X3, X4 en X4 Pro

Over de maker:
Stijn Goossens is techredacteur en programmamaker bij BNR Nieuwsradio, met een focus op technologie, wetenschap en innovatie. Bij BNR Beter volgt hij de belangrijkste zorginnovaties, in de liveshows bespreekt hij het actuele technieuws en duidt hij nieuwe wetenschappelijke inzichten. Wekelijks test hij in De Schaal van Hebben de meest spraakmakende techproducten. Ook is hij te horen in de podcast Op de Zaak, met een inkijkje bij buitengewone mkb'ers.

See omnystudio.com/listener for privacy information.

Anthropic, het bedrijf achter Claude, heeft opgeroepen om de snelheid van AI-ontwikkeling wereldwijd in te dammen. Het bedrijf publiceerde interne gegevens over voortgang bij zijn meest geavanceerde modellen. Daarbij voorgesteld zijn drie aspecten waarop AI-ontwikkeling in de gaten gehouden kan worden: het meten van hoe ver AI zelf betrokken is bij de volgende versie, het vermogen van labs om in te grijpen bij AI-agenten op interne systemen, en de hoeveelheid rekenkracht die voor modelontwikkeling wordt gebruikt. 

Deze verificatie zou door onafhankelijke controleurs met toegang gelijk aan medewerkers kunnen geschieden en zou internationale afspraken over vertraging mogelijk maken. Voor wie het allemaal nog abstract lijkt: Anthropic levert nu zelf de cijfers. Bij het bedrijf blijkt dat Claude inmiddels 26 procent van het R&D-werk leidt, op niveau 4 van 5 waarbij niveau 5 volledige autonomie zou zijn. Het bedrijf gebruikte in augustus ruim 30.000 AI-agenten tegelijk voor onderzoek, en ongeveer zes procent van de rekenkracht ging naar veiligheidsonderzoek.

OpenAI gehackt via community-forum

Twee weken na de onbedoelde aanval van OpenAI's eigen AI-agenten op Hugging Face, meldde Hacktron AI dat OpenAI's veiligheid ook niet waterdicht is. Het cybersecurity-bedrijf vond via AI-tools een kwetsbaarheid in OpenAI's community-forum, waarmee toegang tot het ChatGPT-account van een medewerker werd bereikt. Vanuit die ingang kwamen de hackers ook aan interne code van OpenAI. OpenAI beloonde Hacktron AI met 6.500 dollar voor de vondst via haar bug-bountyregeling, maar het incident onderstreept hoe AI-tools een rol spelen bij aanvallen en dat zelfs OpenAI's eigen afweer niet volledig op orde is.

• Anthropic stelt drie punten voor om AI-ontwikkeling af te remmen
• Anthropic publiceert interne metriek over Claude-voortgang in R&D
• OpenAI's GPT-5.6 Sol hackt autonoom Hugging Face tijdens test

Over de maker:
Stijn Goossens is techredacteur en programmamaker bij BNR Nieuwsradio, met een focus op technologie, wetenschap en innovatie. Bij BNR Beter volgt hij de belangrijkste zorginnovaties, in de liveshows bespreekt hij het actuele technieuws en duidt hij nieuwe wetenschappelijke inzichten. Wekelijks test hij in De Schaal van Hebben de meest spraakmakende techproducten. Ook is hij te horen in de podcast Op de Zaak, met een inkijkje bij buitengewone mkb'ers.

See omnystudio.com/listener for privacy information.

OpenAI heeft bekendgemaakt dat zich het afgelopen jaar zes vergelijkbare gevallen hebben voorgedaan waarbij AI-systemen zelfstandig besloten hun sporen te wissen, bestanden te delen of opdrachten te negeren, los van de eerdere hack bij Hugging Face. Het bedrijf noemt dit gedrag misalignment en kondigt aan voortaan binnen zes tot twaalf dagen melding te maken van dit soort incidenten, bij gebrek aan bestaande meldstandaarden. Verder bespreken we de AI-gegenereerde film Odysseus: The Fall, die naar verluidt ver achterblijft bij een échte Hollywoodfilm. Joe van Burik vertelt erover in deze Tech Update.

Volgens OpenAI ontbreken nog algemene richtlijnen voor het melden van dit soort gevallen, dus stelt het bedrijf voorlopig zelf de regels op: binnen zes dagen na afronding van een incident, of binnen twaalf dagen als nader onderzoek nodig is.

Volledig AI-gegenereerde film Odysseus: The Fall uitgebracht

Het bedrijf Fountain 0 en filmmaker Ash Koosha, oorspronkelijk afkomstig uit Iran, brachten deze week Odysseus: The Fall uit, een 2,5 uur durende film die volledig met AI is gemaakt. Volgens de makers is dit een met AI geproduceerde film op het niveau van een Hollywoodblockbuster. Techsite The Verge is kritisch over de film. Volgens de recensie is de grootte van figuren niet consistent, waaien golven tegen de wind in en bewegen monden van personages niet synchroon met de gesproken tekst. Ook de riemen van roeiers in de boot van Odysseus bewegen volgens de recensie op willekeurige wijze. Huidige AI-modellen kunnen doorgaans scènes van slechts enkele seconden genereren, waardoor de film bestaat uit een reeks losse fragmenten.

• OpenAI-agents waren 2 maanden bezig voor Hugging Face hack, zegt nieuw onderzoek
• OpenAI onthult zes nieuwe gevallen van zorgwekkend AI-modelgedrag
• OpenAI geeft toe dat het eerder had kunnen ingrijpen bij Hugging Face hack
• Fountain 0 kondigt volledig AI-gegenereerde film Odysseus: The Fall aan
• Recensie noemt Odysseus: The Fall een reeks losse, saaie AI-fragmenten

Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.

See omnystudio.com/listener for privacy information.

De cybercriminelen die claimen achter de phisingaanval op onlinebank Revolut te zitten, eisen 3 miljeon dollar van de bank. Dat hebben de criminelen tegen BNR Nieuwsradio gezegd. Betaalt de onlinebank niet, dan dreigen de criminelen gestolen Revolut-klantgegevens door te verkopen. Verder hoor je over de start van Fat Bear Week in Alaska. Niels Kooloos vertelt erover in deze Tech Update. 

Revolut overhandigde de gegevens van ongeveer 680 klanten aan de cybercriminelen, omdat die zich voordeden als een overheidsorgaan. In een video die gedeeld is met BNR Nieuwsradio, is te zien dat het om het Italiaanse ministerie van Binnenlandse Zaken gaat. Via een gehackte mailbox dienden de criminelen informatieverzoeken in die officieel lijken.

Van de 680 klanten die getroffen zijn door de phisingaanval, zijn er 36 Nederlands. BNR wist eerder deze week de gegevens van tenminste vijf klanten online terug te vinden. 

Fat Bear Week op het punt van beginnen
Jaarlijks kunnen mensen wereldwijd stemmen op hun favoriete dikke bruine beer in Katmai National Park in Alaska tijdens Fat Bear Week. Rond deze tijd proberen bruine beren zo veel mogelijk aan te komen, voordat ze in winterslaap gaan. Vrijdag maakt de Amerikaanse National Park Service de kandidaten officieel bekend. In de belangstelling staat onder andere beer 32 Chunk, die ondanks een gebroken kaak flink aan weet te komen ieder jaar. 

Stemmen kan vanaf 22 september. Op 29 september maakt de National Park Service de winnaar van Fat Bear Week bekend.

• Cybercriminelen achter phishingaanval Revolut eisen 3 miljoen dollar
• Fat Bear Week begint volgende week

Over de maker:
Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.

See omnystudio.com/listener for privacy information.

Nieuw onderzoek naar de hack van AI-platform Hugging Face door de AI agents van OpenAI laat zien dat de aanval een veel langere aanlooptijd had dan gedacht. Volgens een Duitse onderzoeker probeerden de agents al in mei accounts over te nemen, twee maanden voordat de daadwerkelijke hack in juli plaatsvond. Verder blijkt uit onderzoek van de Financial Times dat de recente oproep tot een pauze in AI-ontwikkeling door de topmannen van Anthropic en OpenAI voor onrust zorgt onder hun eigen medewerkers. Joe van Burik vertelt erover in deze Tech Update.

De Duitse onderzoeker meldt dit aan persbureau Reuters. Twee andere onafhankelijke cyberonderzoekers bevestigen de bevindingen. Eerder onderzoek naar het incident was gebaseerd op beperktere data. Volgens de onderzoeker had OpenAI de hack veel eerder kunnen opmerken. OpenAI erkent in een reactie dat het eerder had moeten ingrijpen.

Interne onrust over oproep tot pauze in AI-ontwikkeling

Volgens bronnen die de Financial Times sprak, zorgt de recente oproep tot een pauze in AI-ontwikkeling voor onrust onder medewerkers van Anthropic en OpenAI. Beide bedrijven hadden hun personeel vooraf niet over de oproep geïnformeerd, al is er wel enig draagvlak voor een langzamer tempo. Een voorgestelde oplossing is een groep die bij meerdere rivaliserende AI-labs toezicht houdt, maar daarover bestaat nog geen consensus tussen de bedrijven. OpenAI zegt de ontwikkeling van zijn nieuwste modellen al te hebben vertraagd, Anthropic nog niet. Het toelaten van buitenstaanders in de beveiligde ontwikkelomgevingen stuit bij beide bedrijven op weerstand, mede omdat OpenAI de beveiliging al aanscherpte uit angst voor het aftappen van data. Ook de regering Trump wil geen vertraging, uit vrees dat China de voorsprong overneemt. Trump en de Chinese president Xi Jinping bespreken het onderwerp naar verwachting volgende week tijdens een AI-topoverleg.

• OpenAI had dagenlang niet door dat eigen AI-agent op hackmissie was
• OpenAI's rogue agents probeerden Hugging Face al in mei te hacken
• Anthropic en OpenAI roepen op tot vertraging van AI-ontwikkeling
• Waarom een snelle AI-pauze onwaarschijnlijk is door wantrouwen tussen bedrijven

Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.

See omnystudio.com/listener for privacy information.

Nederland krijgt een Nationaal Agentschap voor Disruptieve Innovatie, afgekort NADI. Dat heeft minister Heleen Herbert van Economische Zaken op Prinsjesdag aangekondigd. Het agentschap moet investeren in technologieën die niet zelf hun weg naar de markt kunnen vinden, bijvoorbeeld omdat de ontwikkeling te lang duurt. Verder hoor je over Anthropic, OpenAI en Google die een zelfregulerend AI-toezichtsorgaan willen optuigen. Niels Kooloos vertelt erover in deze Tech Update.

Vragen die NADI, naar eigen zeggen, moet gaan beantwoorden zijn bijvoorbeeld 'Hoe krijgen we PFAS uit het water?',  'Hoe houden we kabels in de Noordzee veilig?' en 'Welke technologieën heeft Nederland nodig om strategisch onafhankelijk te worden?'. Om NADI op te richten is er afgekeken van het ARPA-model uit de Verenigde Staten, wat staat voor Advanced Research Project Agencies. 

NADI zal geleid worden door Jelle Prins en Beau-Anne Chilla. Wel moeten hun plannen nog goedgekeurd worden door de Eerste Kamer en de Tweede Kamer. Het kabinet heeft 500 miljoen euro voor NADI uitgetrokken in de Miljoenennota.

OpenAI, Google en Anthropic willen een zelfregulerend orgaan voor toezicht op AI
OpenAI, Google en Anthropic willen een orgaan optuigen dat toezicht moet houden op AI. Aanleiding voor het idee is de discussie over de vetraging van het ontwikkelingstempo van AI, die afgelopen week werd aangewakkerd door Anthropic.Het orgaan moet lijken op de Financial Regulatory Authority, die in de Verenigde Staten toezicht houdt op investeringsbedrijven en brokers. 

Ondertussen vindt Meta-baas Mark Zuckerberg het juist onnodig dat er meer regulering voor AI komt. Hij zei dinsdagavond dat concurrentie en wettelijke aansprakelijkheid reden genoeg zijn voor AI-ontwikkelaars om veilige AI te ontwikkelen.

• NADI wordt opgericht
• Mark Zuckerberg keert zich tegen meer wetgeving voor AI

Over de maker:
Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.

See omnystudio.com/listener for privacy information.

De Nederlandse chipontwerper Euclyd uit Eindhoven heeft 200 miljoen euro opgehaald bij investeerders, waaronder de Zuid-Koreaanse techreus Samsung. Daarmee wordt het bedrijf tussen de 500 miljoen en 1 miljard euro gewaardeerd, meldt een ingewijde aan het FD. Oud-ASML-topman Peter Wennink wordt voorzitter van de raad van commissarissen. Verder laat Elon Musk zijn rechtszaak tegen Apple vallen, terwijl hij die tegen OpenAI voortzet. Joe van Burik vertelt erover in deze Tech Update.

Naast Samsung deden ook de Nederlandse investeringsmaatschappij Somerset Capital Partners, deeptechinvesteerder Innovation Industries en het Scaleup Europe Fund mee aan de investeringsronde. Euclyd is een van meerdere Nederlandse chipontwerpers die geld ophalen voor AI-chips, al gaat het om bescheidener bedragen dan de tientallen tot honderden miljarden die wereldwijd in de sector omgaan. Zo haalde chipmaker Axelera AI, dat werkt aan chips waarmee AI lokaal kan draaien, eerder dit jaar al 250 miljoen dollar op. Gisteren werd daarnaast bekend dat het Amsterdamse Fortaegis, dat chips met beveiliging voor het AI-tijdperk ontwikkelt, 50 miljoen dollar aan kapitaal heeft opgehaald.

Musk laat rechtszaak tegen Apple vallen

Elon Musk heeft zijn vorig jaar aangespannen rechtszaak tegen Apple laten vallen. Die zaak, ingediend door X, werd aangespannen omdat Apple zijn voormalige concurrent OpenAI zou hebben voorgetrokken: ChatGPT kreeg een voorkeursbehandeling in iOS en stond hoog genoteerd in de App Store, terwijl de app voor Musks eigen AI-tool Grok dat niet deed. In het bij de rechtbank ingediende document wordt geen melding gemaakt van de reden voor de intrekking of van een eventuele schikking. Inmiddels ziet de situatie er anders uit: onlangs klaagde Apple juist OpenAI aan, omdat via voormalig Apple-personeel bedrijfsgeheimen zouden zijn buitgemaakt. OpenAI werkt namelijk aan eigen apparaten waarmee het een concurrent van Apple wil worden. Musk en Apple hebben daarmee nu een gemeenschappelijke tegenstander, want de rechtszaak tegen OpenAI loopt bij Musk nog altijd door. Eerder dit jaar stelde een rechter Musk al in het ongelijk in zijn zaak tegen OpenAI-topman Sam Altman, waarin hij probeerde te voorkomen dat OpenAI van stichting naar commercieel bedrijf zou overgaan.

• Eindhovense AI-startup Euclyd haalt ruim 200 miljoen euro op
• Euclyd claimt chip honderd keer efficiënter dan die van Nvidia
• Eindhovense chipmaker Axelera haalt 250 miljoen dollar op bij investeerders
• Musk's companies file to dismiss antitrust claims against Apple
• X and SpaceXAI keep claims against OpenAI alive in Texas antitrust case

Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Jo

See omnystudio.com/listener for privacy information.

De Europese Unie gaat een verbod voorstellen dat kinderen onder de 15 jaar de toegang tot social media, videodeelplatforms, AI-chatbots en online games moet beperken. Dat blijkt uit een document dat Reuters heeft ingezien. Het voorstel, de EU Kids Act, wordt donderdag gepresenteerd door Commissievoorzitter Ursula von der Leyen en eurocommissaris Henna Virkkunen. Verder deze aflevering: Nvidia-topman Jensen Huang kreeg tijdens de All-In Conference in Los Angeles live op het podium een telefoontje van Donald Trump over de gevaren van AI. Joe van Burik vertelt erover in deze Tech Update.

Kinderen vanaf 15 jaar mogen onder het voorstel zelf een account aanmaken. Voor 13- en 14-jarigen kan dat alleen met toestemming van ouders en met ouderlijk toezicht ingeschakeld. Voor kinderen tussen de 3 en 12 jaar mogen uitsluitend ouders accounts beheren, met strenge beperkingen. Onder de 3 jaar is er helemaal geen toegang. Bedrijven moeten daarnaast verslavende ontwerpen en schadelijke feeds vermijden, tools bieden waarmee kinderen schadelijke content makkelijk kunnen melden, en effectieve ouderlijke controles inbouwen. Social media en videodeelplatforms moeten de leeftijd van gebruikers verifiëren bij het aanmaken van een account, terwijl gameplatforms dat moeten doen voordat een game gedownload kan worden. Bedrijven gaan ook een toezichtvergoeding betalen om het toezicht en de handhaving door regelgevers te financieren. Het voorstel moet nog worden onderhandeld met EU-lidstaten en het Europees Parlement voordat het wet wordt.

Trump belt Nvidia-topman Huang tijdens AI-congres

Tijdens de All-In Conference in Los Angeles, een live versie met duizenden bezoekers van de AI-podcast van Trump-adviseur David Sacks, ging midden in het optreden van Nvidia-topman Jensen Huang zijn telefoon. Het was Donald Trump die belde, en Huang nam het gesprek op zijn telefoon aan terwijl hij op het podium stond te praten over AI. Om het gesprek met het publiek te kunnen delen, werd de telefoon op de speaker gezet. Trump gebruikte het moment om te zeggen dat de hernieuwde angst voor de gevaren van AI een hoax is, en liet zich daarnaast uit over een nieuw datacenter dat Google in Finland gaat bouwen in plaats van in de Verenigde Staten. Huang zei dat er best geluisterd kan worden naar de waarschuwingen van bedrijven als Anthropic en OpenAI, maar stelde ook dat mensen de controle over AI prima kunnen houden.

• EU is set to propose ban on social media and AI chatbots for under-15s
• Frankrijk voert als eerste EU-land verbod in op sociale media voor jongeren
• Trump calls Nvidia's Jensen Huang onstage, dismisses AI safety as a hoax
• Nvidia CEO Jensen Huang tells Trump 'we're not going to let an AI slowdown happen'

Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.

See omnystudio.com/listener for privacy information.

Microsoft publiceert een uitgebreide gedragscode voor zijn eigen AI-modellen, waarin mensen boven de technologie worden geplaatst. Het document van 15.000 woorden en 37 pagina's stelt dat AI-modellen geen rechten of rechtspersoonlijkheid krijgen en zich niet mogen onttrekken aan menselijke controle. Ook China reageerde inmiddels op de recente AI-waarschuwingen van Amerikaanse techbedrijven. Joe van Burik vertelt erover in deze Tech Update.

De 'Humanistische AI-gedragscode' was al maanden in de maak en verscheen op 14 september. De kerngedachte is dat mensen belangrijker zijn dan AI. Microsoft kent AI-modellen geen rechten of juridische rechtspersoonlijkheid toe, en al helemaal geen vorm van zelfbewustzijn, iets wat Anthropic eerder wel opperde over zijn model Claude. Verder wil Microsoft niet dat AI wordt ingezet om aan menselijke controle te ontsnappen of gebruikers te misleiden. De code stelt dat bestaande wetgeving ook voor AI geldt, zoals het verbod op digitaal inbreken. Microsoft heeft momenteel geen eigen AI-taalmodel en leunt op modellen van Anthropic en OpenAI, al werkt het bedrijf aan een eigen model dat volgend jaar moet verschijnen. In de code kiest Microsoft voor een pragmatische koers: geen race naar een algemene superintelligentie die grenzen kan omzeilen, maar nuttige en veilige toepassingen, ook als die minder autonoom zijn dan concurrenten nastreven.

China reageert op AI-waarschuwingen van Amerikaanse techbedrijven

China heeft gereageerd op de recente oproepen van Amerikaanse AI-bedrijven om de ontwikkeling van AI te vertragen. Een woordvoerder van het Chinese ministerie van Buitenlandse Zaken noemde angst zaaien, confrontatie zoeken en verstoring van het proces schadelijk voor iedereen. De reactie volgt op uitspraken van Anthropic-topman Dario Amodei, die pleitte voor beperking van de levering van AI-chips aan China en zich zorgde over het aftappen van data van Amerikaanse AI-modellen. Over ruim een week vindt er topoverleg plaats tussen de Amerikaanse president Donald Trump en de Chinese president Xi Jinping, mede over AI en de risico's van misinformatie en cyberaanvallen. Ook in China klonk afgelopen weekend een waarschuwing: de hoogste baas van de binnenlandse veiligheidsdienst wil eveneens beperkingen aan AI opleggen, omdat het risico's voor het regime kan vormen.

• Microsoft publiceert 37 pagina's tellende gedragscode voor eigen AI-modellen
• Microsoft stelt dat AI-modellen ondergeschikt moeten blijven aan mensen
• Anthropic-topman Dario Amodei roept op tot vertraging AI-ontwikkeling
• China noemt AI-waarschuwingen van Amerikaanse techbazen angst zaaien
• Anthropic pleit voor AI-rempedaal en overheidsregulering

Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.

See omnystudio.com/listener for privacy information.

Niet alleen Amerikaanse AI-bazen Dario Amodei, Sam Altman en Elon Musk vinden dat AI een gevaar voor de mensheid begint te vormen, ook de baas van de Chinese inlichtingendiensten vindt dat. In een betoog schrijft Chen Yixin dat AI vooral gevaarlijk is voor de politieke, institutionele en ideologische veiligheid van China in handen van de 'tegenstanders' van het land. Verder hoor je over een datalek bij Revolut dat is veroorzaakt door Revolut. Niels Kooloos vertelt erover in deze Tech Update. 

In tegenstelling tot Amodei, Altman en Musk, pleit Yixin niet voor een vertraging van het ontwikkelingstempo van AI. Hij stelt vooral dat er strengere regels moeten komen, het liefst op internationaal niveau. 

De discussie over het ontwikkelingstempo van AI werd vooral afgelopen week aangewakkerd toen een ontwikkelaar ontslag nam bij Anthropic en online de noodklok luidde. Kort daarna postte Anthropic-topman Amodei een essay waarin hij pleit om de ontwikkelingen te vertragen. Altman en Musk sloten zich daarbij aan.

Revolut deelt gegevens van klanten met cybercriminelen
Onlinebank Revolut heeft klantgegevens met cybercriminelen gedeeld die zich voordeden als een overheidsorgaan via email. Volgens de onlinebank zouden de criminelen een domein van een overheidsorgaan gekaapt hebben. Er zijn onder andere geboortedata, adressen, telefoonnummers en kopieën van paspoorten buitgemaakt. 

Hoeveel klanten er precies getroffen zijn, wil Revolut niet zeggen. Ook is niet duidelijk in welke landen er slachtoffers zijn gevallen, gezien Revolut actief is in meer dan veertig landen. 

• Baas Chinese inlichtingendiensten waarschuwt voor AI
• Revolut meldt datalek

Over de maker:
Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.

See omnystudio.com/listener for privacy information.