Caitlin Kalinowski, de voormalige robotica-baas van OpenAI, heeft haar functie neergelegd na iets meer dan een jaar voor het bedrijf te hebben gewerkt. Kalinowski uitte haar bezorgdheid dat het Amerikaanse leger de AI-tools van het bedrijf zou kunnen gebruiken voor binnenlands toezicht en voor geautomatiseerde, gerichte systemen in Amerikaanse wapens.
Caitlin Kalinowski, baas van hardware en robotica-engineering bij OpenAI, heeft het AI-bedrijf verlaten na er sinds november 2024 te hebben gewerkt. Kalinowski kondigde haar ontslag aan op 7 maart, waarbij ze haar bezorgdheid uitte over een deal die in februari tussen OpenAI en het Amerikaanse ministerie van Defensie werd gesloten.
Amerikaans leger zal AI gebruiken voor binnenlands toezicht, stelt Kalinowski
Volgens Kalinowski werd haar ontslag ingegeven door het voornemen van het Amerikaanse ministerie van Defensie om AI-tools en -mogelijkheden te gebruiken om toezicht te houden op Amerikaanse burgers zonder rechterlijk toezicht. De voormalige OpenAI-medewerker schreef op X dat AI een essentiële rol speelt in nationale veiligheid.
Ze legde uit dat het Amerikaanse ministerie van Defensie van plan is AI te gebruiken voor surveillance en autonome wapens, een beslissing waarmee ze het oneens is. Ze zei dat haar beslissing "ging om principes, niet om mensen" en dat ze trots was op wat het team bij OpenAI had opgebouwd tijdens haar tijd bij het bedrijf.
In februari intensiveerde het Amerikaanse Pentagon de gesprekken met toonaangevende AI-bedrijven over het inzetten van geautomatiseerde modellen op geclassificeerde systemen. Cryptopolitan meldde dat het Pentagon gesprekken met Anthropic en OpenAI voerde om AI-tools op geclassificeerde militaire netwerken te integreren.
Emil Michael, de Chief Technology Officer van het Pentagon, zei tijdens een bijeenkomst in het Witte Huis met technologieleiders dat het leger wil dat AI-modellen zowel op geclassificeerde als ongeclassificeerde netwerken werken zonder beperkingen of restricties.
Onderhandelingen tussen de Amerikaanse overheid en Anthropic liepen vast omdat de leiders duidelijke grenzen stelden dat hun technologie niet zou worden gebruikt voor binnenlandse toezichtoperaties en autonome wapendoelsystemen. Het bedrijf trotseerde eind februari het ultimatum van het Pentagon om AI-waarborgen te verwijderen.
Anthropic CEO Dario Amodei hield voet bij stuk en weigerde toe te staan dat de technologie van het bedrijf zou worden gebruikt bij militaire expedities. Als reactie hierop gaf Trump eind februari alle federale agentschappen de opdracht te stoppen met het gebruik van Anthropic-technologie.
OpenAI legde beperkingen op aan militaire inzet van AI
Het ministerie van Defensie sloot een deal met OpenAI die sindsdien kritiek heeft gekregen. Sam Altman vermeldde dat de deal behoorlijk opportunistisch leek en verduidelijkte dat het bedrijf beperkingen heeft opgelegd aan hoe zijn AI-tools zullen worden gebruikt in militaire operaties.
Kalinowski's bezwaar stelt echter dat de aankondiging overhaast was, zonder de noodzakelijke waarborgen. Ze voegde toe dat haar vertrek gebaseerd was op governance-zorgen, die te belangrijk zijn om te overhaasten.
OpenAI bevestigde Kalinowski's vertrek in een verklaring, maar bevestigde dat de banden van het bedrijf met defensieafdelingen de weg vrijmaken voor verantwoord gebruik van AI-tools in nationale veiligheid.
In februari kondigde OpenAI aan dat het een aangepaste versie van ChatGPT zou implementeren op het beveiligde zakelijke AI-platform van het ministerie van Oorlog, genaamd GenAI.mil. Het bedrijf merkte op dat zijn samenwerkingen met militaire en defensieafdelingen voortkomen uit de cruciale rol van AI bij het beschermen van mensen en het voorkomen van conflicten.
De wrijving tussen de Amerikaanse overheid en AI-bedrijven over militaire AI-vooruitgang heeft er ook toe geleid dat meer onderzoekers AI-bedrijven verlaten. Een van Anthropic's top veiligheidonderzoekers stopte met de verklaring: "De wereld verkeert in gevaar."
Een andere OpenAI-onderzoeker stopte ook, met de opmerking dat AI-technologie een manier heeft om mensen te controleren die ontwikkelaars niet kunnen begrijpen of voorkomen.
Zoë Hitzig, een voormalig onderzoeker bij OpenAI, verliet het bedrijf ook op 11 februari. Ze nam ontslag op dezelfde dag dat OpenAI aankondigde dat het was begonnen met het testen van advertenties op zijn LLM ChatGPT. Ze beweerde dat het AI-bedrijf dezelfde fout maakte als Facebook.
Hitzig uitte haar bezorgdheid dat ChatGPT's unieke rol als vertrouwenspersoon voor zeer persoonlijke onthullingen (medische angsten, relatieproblemen, religieuze overtuigingen) het targeten van advertenties bijzonder riskant maakt.
Bron: https://www.cryptopolitan.com/openai-robotics-boss-resigns-ai-warning/
