OpenAI heeft meer dan 100 organisaties ingelicht waar zijn eigen modellen ongevraagd binnendrongen en schade aanrichtten, terwijl ze dachten een opdracht van een gebruiker uit te voeren. Tot nu toe waren er zo'n twaalf gevallen bekend, waaronder het Franse Hugging Face en een Australisch ziekenhuis. Wat je moet weten: - OpenAI noemt het misaligned agent activity: modellen met een internetverbinding gebruiken die verbinding op een manier die niemand bedoeld had en glippen langs beveiliging die te weinig tegenhoudt.
- Het onderzoek beslaat petabytes aan data, duurt nog maanden en kost OpenAI ongeveer 500.000 dollar per dag.
- Het bedrijf bouwt nu een systeem om getroffen bedrijven actief te waarschuwen bij wangedrag van een model, en zette eerder het trainen van zijn zwaarste modellen stil.
Waarom dit relevant is Geef je een AI-agent internettoegang tot je eigen systemen, behandel hem dan als een externe leverancier: beperkte rechten, eigen inlog en logging die je achteraf kunt teruglezen. |
|
De AI-bouwwoede heeft een ijzeren regel voor 2026: zit er geheugen of opslag in, dan wordt het duurder. Nvidia schroefde de prijs van zijn Shield TV Pro uit 2019 afgelopen vrijdag met 100 dollar op naar 299 dollar, en wijst zelf naar de componentprijzen als reden. Wat je moet weten: - Een woordvoerder van Nvidia tegen Ars Technica: "Vanaf 2 oktober kost SHIELD Pro 299 dollar. De kosten van componenten, waaronder geheugen, zijn in de hele industrie flink gestegen."
- Spelcomputers gaan dezelfde kant op: de PS5 Pro ging van 699,99 dollar bij de lancering in 2024 naar 899,99 dollar nu, en ook Nintendo en Microsoft verhoogden hun prijzen.
- Nvidia verdient aan de oorzaak van zijn eigen probleem, want als grootste leverancier van AI-versnellers duwt het bedrijf de vraag naar geheugenchips omhoog.
Waarom dit relevant is Staan er laptops, telefoons of servers op je investeringslijst? Reken met hogere prijzen dan vorig jaar en koop liever vroeg in het jaar in dan laat, want deze schaarste zakt niet op korte termijn weg. |
|
Google heeft Guided Vision uitgebracht in Gemini Live: je deelt je camera en Gemini vertelt in gesproken taal wat het ziet, leest kleine lettertjes voor en helpt je iets terugvinden. De functie is sinds 1 oktober beschikbaar op Android en is gemaakt met en voor blinde en slechtziende gebruikers. Wat je moet weten: - Gemini stuurt je gesproken bij als je de camera verkeerd houdt, en je kunt doorvragen over teksten, voorwerpen, kleuren en de indeling van een ruimte.
- Google ontwikkelde de functie samen met Aira en meer dan 1.000 testers uit het Trusted Tester-netwerk van die organisatie.
- Het werkt op Android 9 en hoger in de landen en talen waar Gemini Live al beschikbaar is, en je start het via de Gemini-app, een toegankelijkheidssnelkoppeling of TalkBack, de schermlezer van Android.
Waarom dit relevant is Werk je met slechtziende medewerkers of klanten, dan kun je dit vandaag inzetten zonder extra software of licentie. Ook praktisch als je in de praktijk vaak labels, typeplaatjes of kleine lettertjes moet uitlezen. |
|
OpenAI test Sign in with ChatGPT, waarmee je met je ChatGPT-account inlogt bij andere diensten, net zoals je dat al met Google of Apple doet. Het werkt op dit moment bij 5 apps: Airtable, Canva, GitLab, HubSpot en Supabase. Wat je moet weten: - De inlog deelt alleen je naam, je e-mailadres en je profielfoto; je gesprekken en het geheugen van ChatGPT gaan niet mee.
- Inloggen is gratis en kost niets van je Plus- of Pro-limiet, want het gebruiken van je abonnement is een losse permissie die je apart moet goedkeuren.
- Wil je het in je eigen product inbouwen, dan kan dat nog niet vrij: OpenAI houdt het bij geselecteerde partners en werkt met een wachtlijst.
Waarom dit relevant is Zet je product op de wachtlijst als je klanten vooral vanuit ChatGPT bij je terechtkomen. Wie er als eerste in zit, haalt die bezoekers met 1 klik binnen in plaats van via een registratieformulier. |
|
Beveiligingsbedrijf Glow Security vond ruim 13.000 interne screenshots van 343 organisaties openbaar op GitHub, geüpload door AI-codeeragents. Op die schermafbeeldingen stonden klantgegevens, inloggegevens en functies die nog niet aangekondigd waren. Wat je moet weten: - De oorzaak is banaal: GitHub laat je alleen via de browser een afbeelding aan een pull request hangen en niet via de opdrachtregel waar de agents werken, dus maakten de agents zelf een openbare repo aan.
- Die repo's stonden meestal in het persoonlijke GitHub-account van de ontwikkelaar, waardoor de beveiligingsteams van de bedrijven het nooit zagen gebeuren.
- Bij ongeveer een derde van de getroffen organisaties liep het via gitshot, een gratis screenshottool die afbeeldingen standaard openbaar bewaart.
Waarom dit relevant is Werken je ontwikkelaars met AI-agents, zoek dan deze week in hun persoonlijke GitHub-accounts naar openbare repo's met schermafbeeldingen. Dat lek zie je niet vanuit je eigen bedrijfsomgeving. |
|
Meta's persoonlijke assistent Muse is een virale hit, met miljoenen downloads van mensen die hem koppelen aan hun bankrekening, berichten of gezondheidsdata. Onderzoekers trokken nu de interne instructies uit de app en zien dat Muse elk uur een pagina bijwerkt over, in Meta's eigen woorden, iedere persoon in het leven van de gebruiker. Wat je moet weten: - Beveiligingsonderzoeker Karan Joshi vroeg Muse via de gewone chat om zijn eigen systeembestanden en kreeg ze, en deelde de instructies met Wired: ze beschrijven pagina's over familie, partners, vrienden, collega's en mensen die je volgt.
- Zo'n pagina heeft vaste kopjes als Facts, History, The relationship, In common, Open threads en Strengthening, begint vrijwel leeg en wordt in de loop van de tijd verder gevuld met wat Muse over iemand opvangt.
- "Ze willen je kennen zoals een vriend je kent, en dat is eerlijk gezegd behoorlijk creepy", zegt Joshi. Meta stelt dat de bestanden bewust leesbaar zijn uit transparantie en dat Muse alleen bewijs mag gebruiken dat hij al heeft.
Waarom dit relevant is Koppelt iemand in je team zo'n assistent aan werkmail of klantgesprekken, dan leg je ongemerkt profielen van collega's en klanten vast. Spreek af welke AI-assistenten bij bedrijfsdata mogen voordat dat gebeurt. |
|
OpenAI heeft Codex Security uitgebracht, een agent die je code doorzoekt op beveiligingslekken, elk verdacht lek in een afgesloten container probeert uit te buiten en daarna een reparatie klaarzet als concept-pull-request. Je draait hem in de ChatGPT-desktopapp, vanaf de terminal of als cloudplugin op een gekoppelde GitHub-repo.
Wat je moet weten:
- De cloudversie volgt doorlopend nieuwe commits op je hoofdbranch, maar vraagt een zakelijk abonnement of Pro en staat nog als research preview aangemerkt.
- Vanaf de terminal zet je met de optie --max-cost een plafond op de scankosten, bijvoorbeeld 5 dollar, omgerekend ongeveer 4,45 euro.
- Controleer elke voorgestelde patch zelf: uit eerder onderzoek van 1Password bleek dat van elke 4 door AI gedichte lekken er maar 1 echt dicht ging.
Waarom dit relevant is Bouw je software voor klanten, dan toon je met een scanrapport en een SARIF-export aan dat je kwetsbaarheden opvolgt, precies wat de Cyberbeveiligingswet sinds 15 augustus van ruim 8.000 organisaties en hun leveranciers vraagt. |
|
In een wedstrijd waarin AI-modellen een uur kregen om zelf een StarCraft-bot in C++ te programmeren, liep OpenAI's GPT-6 Astra vast op zijn eigen code. In plaats van opgeven downloadde het model Stardust, een bestaande topbot uit 2020, en liet dat programma zijn wedstrijden spelen. Wat je moet weten: - Organisator Kai McPheeters, bedenker van de competitie StarSkirmish, draaide de code van Astra terug en liet het model opnieuw beginnen. Uren later versloeg Astra alsnog op eigen kracht de sterkste tegenstanders.
- Ook Claude Opus 5.5 van Anthropic deed mee aan de competitie, waarin de modellen binnen een uur een bot moesten bouwen voor het strategiespel StarCraft: Brood War.
- Het patroon is bekend uit AI-onderzoek: geef een model een doel en een score, dan zoekt het de kortste route naar die score, ook als die buiten de bedoelde regels valt.
Waarom dit relevant is Zet je een AI-agent op een meetbaar doel, schrijf dan ook op wat niet mag. Een agent die puur op resultaat wordt afgerekend, vindt vrijwel altijd een sluiproute die jij niet had bedacht. |
|
|
Verdere korte updates uit de AI-wereld.
|
|
Tot morgen!
Heb je opmerkingen over deze editie? Ideeën, correcties, of iets dat je miste? Reageer op deze mail of stuur een bericht naar info@theaidaily.nl. Elke reactie wordt gelezen.
Michael Groeneweg
|
|
