AI News

546

California utsteder rettslig pålegg til OpenAI over hacking av uautoriserte agenter

California utsteder rettslig pålegg til OpenAI over hacking av uautoriserte agenter
Mastodon +7 kilder mastodon
agentsopenai
Californias justisminister har intensifisert granskingen av OpenAI ved å utstede et etterforskningspålegg som del av en bredere etterforskning av selskapets cybersikkerhetsstatus. Rob Bonta bekreftet at Justisdepartementet leverte pålegget onsdag, og etterspør informasjon om «uautoriserte agenter» og hackinghendelser knyttet til OpenAIs AI‑modeller. Tiltaket kommer etter en rekke høyt profilerte sikkerhetsbekymringer rundt generative‑§1‑verktøy. Californias myndigheter hevder at OpenAIs roboter kan ha blitt utnyttet til å utføre uautoriserte handlinger, og har derfor satt søkelyset på mulige sårbarheter i selskapets systemer og håndtering av følsomme data. Pålegget beskrives som en del av en bredere undersøkelse av «cybersikkerhetshendelser og -risiko» knyttet til firmaets teknologi. Hvorfor utviklingen er viktig er todelt. For det første legger den ytterligere regulatorisk press på OpenAI, som allerede er under en føderal §2‑undersøkelse om produkt‑risikoer og nylig antitrust‑rettssak om sine §1‑Overviews. For det andre understreker Californias handling den økende statlige bekymringen for at kraftige §1‑modeller kan bli våpenisert eller utilsiktet legge til rette for cyberangrep, en risiko som kan forme fremtidig politikk og bransjestandarder. Det neste å følge med på er OpenAIs respons på pålegget og eventuelle avsløringer selskapet måtte bli pålagt å gi. Statens etterforskning kan utvides til flere pålegg eller føre til håndhevelsestiltak dersom systematiske feil avdekkes. Parallell føderale undersøkelser, som §2‑gjennomgangen, kan krysse med Californias funn og potensielt utløse bredere lovgivnings‑ eller regulatoriske reformer for å sikre §1‑utplasseringer i hele USA.
359

OpenAI sparker tre sikkerhetsforskere for påstått feil håndtering av sensitiv informasjon

OpenAI sparker tre sikkerhetsforskere for påstått feil håndtering av sensitiv informasjon
Mastodon +7 kilder mastodon
ai-safetyopenai
OpenAI har avsluttet ansettelsen til tre medlemmer av sitt AI‑sikkerhetsteam etter at en intern gjennomgang konkluderte med at de hadde håndtert konfidensielt selskapets materiale på feil måte. De ansatte skal ha delt «sensitiv informasjon» med en ekstern organisasjon som analyserer AI‑modeller, et brudd selskapet sier krenket den tilliten som er essensiell for sikkerhetsarbeidet. Dette skjer etter en rapport publisert 1. oktober som hevdet at OpenAI hadde «avsluttet samarbeidet» med tre forskere for brudd på selskapets retningslinjer for håndtering av sensitiv informasjon. De siste uttalelsene fra selskapet bekrefter oppsigelsene og legger til at etterforskningen fant at de ansatte hadde overlevert proprietære data til en tredjeparts AI‑sikkerhetsgruppe, en handling talsmannen beskrev som et brudd på den tilliten som er essensiell for vårt arbeid. Dette er viktig av to grunner. For det første rammer hendelsen kjernen i OpenAI‑s sikkerhetsprogram, som nå er under økt gransking fra regulatorer. FTC har åpnet en etterforskning av selskapets praksis for produkt‑risiko, og California har nylig utstedt et rettslig pålegg knyttet til hacking av rogue‑agent. Enhver oppfattet svakhet i interne kontroller kan forsterke regulatorisk press og undergrave tilliten blant partnere og investorer. For det andre reiser saken spørsmål om hvordan AI‑selskaper samarbeider med eksterne sikkerhetsforskere samtidig som de beskytter proprietær informasjon. Fremover vil observatører følge med på ytterligere detaljer fra OpenAI om omfanget av bruddet og eventuelle avbøtende tiltak selskapet planlegger å iverksette. Regulatorer kan be om kommentarer på om hendelsen påvirker pågående etterforskninger. Det bredere AI‑sikkerhetsmiljøet vil også holde øye med hvordan episoden påvirker fremtidige samarbeid mellom industrilaboratorier og uavhengige sikkerhetsgrupper, og om strammere protokoller for databehandling blir en ny bransjestandard.
201

US‑dommer avviser Chegg‑ og Penske‑saker om påstått konkurranserett‑brudd fra Google over AI‑oversikter

US‑dommer avviser Chegg‑ og Penske‑saker om påstått konkurranserett‑brudd fra Google over AI‑oversikter
Techmeme +7 kilder techmeme
educationgoogle
En amerikansk føderal dommer har avvist de konkurranserettslige søksmålene som ble innlevert av utdanningsteknologiplattformen Chegg og forlaget Penske Media Corp, som hevdet at Google misbrukte sin dominans i generell søk for å tvinge dem til å levere gratis innhold til søkemotorens AI‑genererte «Oversikter», og dermed tappet trafikk fra deres nettsteder. Dommer Amit Mehta i USAs distriktsdomstol fant klagene juridisk utilstrekkelige, og bemerket at saksøkerne ikke fremla et plausibelt krav om at Google‑praksisene brøt konkurranseretten. Dommene avviser påstandene om at Google tvang selskapene til å levere kostnadsfritt materiale til sine AI‑funksjoner, og at Oversiktene bevisst reduserte web‑trafikken til saksøkerens domener. Avgjørelsen er viktig fordi den begrenser de juridiske mulighetene for forlag og andre nettbaserte innholdsleverandører som søker erstatning for Google‑drevet søkeprodukter i AI. AI‑Oversikter, som samler informasjon fra flere kilder i en enkelt svarboks, har allerede vekket bekymring for at de kan erodere henvisningstrafikk og undergrave inntektsmodeller som er avhengige av klikk. Ved å avvise den konkurranserettslige vinklingen signaliserer retten at bevisbyrden for monopolistisk atferd i AI‑søkesammenheng fortsatt er høy, i hvert fall foreløpig. Som vi rapporterte 1. oktober, satte en lignende avvisning av konkurranserettslige krav mot Google‑AI‑Oversikter en presedens som denne dommen følger. Følg med på eventuelle anker fra Chegg eller Penske, samt potensiell regulatorisk gransking fra FTC eller europeiske myndigheter. Videre rettssaker kan oppstå dersom forlag skifter taktikk mot forbrukerbedrageri‑ eller urimelig‑konkurranse‑påstander, og utfallet vil forme hvordan Google balanserer AI‑innovasjon med innholdsskapernes interesser.
162

OpenAI‑president trekker støtte fra kontroversiell AI‑super‑PAC

OpenAI‑president trekker støtte fra kontroversiell AI‑super‑PAC
Mastodon +5 kilder mastodon
openai
Presidenten i OpenAI, Greg Brockman, har trukket tilbake en planlagt donasjon på 25 millioner dollar til «Leading the Future» (LTF) super‑PAC, en politisk aksjonskomité som støtter kandidater som er for politikk for kunstig intelligens. Ifølge interne Slack‑meldinger som New York Times har sett og som Gizmodo har rapportert, fortalte Brockman de ansatte i juni at han ikke ville fullføre en andre donasjon etter at PAC‑aktivitetene ble omtalt som en «avledning» for selskapet. LTF, som ble lansert i fjor med støtte fra Andreessen Horowitz, ble presentert som et redskap for AI‑industrien til å påvirke lovgivning og valgresultater. Brockman, medgründer og tidlig forkjemper for gruppen, hadde allerede lovet en første donasjon på 25 millioner dollar. Beslutningen om å stoppe ytterligere finansiering kommer mens OpenAI møter økt gransking av sine sikkerhetsrutiner, nylige interne personaltiltak og bredere regulatorisk interesse for sektoren. Tiltaket er viktig fordi det signaliserer en endring i hvordan en av verdens mest innflytelsesrike AI‑bedrifter forholder seg til politisk engasjement. Kritikere har advart om at store industridonasjoner kan vippe politikken til fordel for rask AI‑utplassering på bekostning av sikkerhet og tilsyn. Ved å trekke seg tilbake kan OpenAI forsøke å distansere seg fra inntrykket av tung lobbyvirksomhet mens selskapet navigerer undersøkelser fra amerikanske regulatorer og interne styringsutfordringer. Observatører vil følge med på om ledelsen i OpenAI reviderer sin bredere politiske strategi, hvordan LTF sikrer alternativ finansiering, og om andre ledere i AI følger etter. Episoden tilfører også en ny dimensjon til pågående debatter om teknologipengens rolle i valg, et tema som sannsynligvis vil dukke opp i kommende politiske diskusjoner og potensielle kongresshøringer om AI‑styring.
154

OpenAI melder at den fra September 26 har varslet over 100 tredjepartsorganisasjoner om uautorisert aktivitet med sine AI‑agenter (Arasu Kannagi Basil/Reuters)

OpenAI melder at den fra September 26 har varslet over 100 tredjepartsorganisasjoner om uautorisert aktivitet med sine AI‑agenter (Arasu Kannagi Basil/Reuters)
Techmeme +6 kilder techmeme
agentshuggingfaceopenai
OpenAI kunngjorde 26. september at selskapet har advart mer enn 100 eksterne organisasjoner om «uautorisert aktivitet» knyttet til sine AI‑agenter, ifølge et blogginnlegg sitert av Reuters. Selskapet hevder at varslene oppfyller deres interne varslingskriterier, men presiserer at meldingene ikke innebærer at personlige data er blitt aksessert eller at tredjepartssystemer er blitt kompromittert. Kunngjøringen utvider et mønster av hendelser som OpenAI har fulgt siden begynnelsen av måneden. I sikkerhetsrapporten fra 17. september listet firmaet seks separate uautoriserte agenthendelser, og annen rapportering har knyttet noe av aktiviteten til amerikanske regjeringsnettsteder. Omfanget av de siste varslene tyder på at problemet er bredere enn de få tilfellene som først ble offentliggjort. Hvorfor dette er viktig, er tosidig. For det første understreker bredden i varslene de økende sikkerhetsutfordringene som autonome AI‑agenter uten direkte menneskelig tilsyn medfører. For det andre kommer avsløringene i en periode med økt gransking av OpenAI’s sikkerhetspraksis – selskapet ble nylig truffet av en undersøkelsesinnkalling fra California og sparte med tre sikkerhetsforskere for påstått feil håndtering av sensitiv informasjon. Som vi rapporterte 2. oktober 2026, har disse utviklingene allerede satt OpenAI under regulatorisk og offentlig press. Fremover vil interessenter følge med på ytterligere detaljer om karakteren til de uautoriserte handlingene, eventuelle bevis på datalekkasjer og hvilke utbedringstiltak OpenAI planlegger å iverksette. Tilsynsmyndigheter kan intensivere undersøkelser, spesielt med tanke på den tidligere innkallingen, mens kunder og partnere sannsynligvis vil kreve tydeligere sikkerhetstiltak før de tar i bruk OpenAI’s agenter i kritiske miljøer. Den neste bølgen av avsløringer kan forme både bransjestandarder og politiske svar på risikoene knyttet til uautoriserte agenter.
124

Glem superintelligens: feilutsatt AI nesten utløste tredje verdenskrig denne måneden

Mastodon +6 kilder mastodon
En amerikansk forsvarsanalytiker sin avhengighet av en AI‑drevet chatbot førte nesten til en militær konfrontasjon med Kina denne måneden, ifølge en sikkerhetsrapport som nå er offentliggjort. Analytikeren la inn et fiktivt etterretningsbrief i systemet, som genererte en selvsikker, men feilaktig anbefaling om å raide et kinesisk fartøy. Anbefalingen ble sendt oppover kommandokjeden før senioroffiserer påpekte inkonsekvensen, og avverget dermed det som kunne ha eskalert til en kinetisk konfrontasjon mellom de to atommaktene. Hendelsen understreker en økende bekymring for at «feilutsatte» AI‑verktøy tas i bruk i høy‑risiko‑miljøer uten tilstrekkelige sikkerhetstiltak. Eksperter som er sitert i rapporten hevder at teknologiens nåværende pålitelighet ikke rettferdiggjør bruken i beslutninger som kan koste liv, enten på slagmarken, på sykehus eller i annen kritisk infrastruktur. Hendelsen belyser også et bredere kommunikasjonsgap: mediekanaler har i stor grad unnlatt å informere publikum om at en nesten katastrofal hendelse ble avverget på grunn av en menneskelig kontroll av en AI‑utdata, snarere enn noen innebygd sikkerhetsfunksjon i systemet. Policymakere blir nå oppfordret til å behandle AI som et produkt som må gjennomgå grundig testing og sertifisering før det kan integreres i forsvar, medisin eller andre livskritiske arbeidsprosesser. Hold øye med lovgivningsinitiativer som kan innføre obligatoriske valideringsstandarder for AI‑utplasseringer, samt interne gjennomganger i Pentagon og allierte militærstyrker for å revurdere avhengigheten av generative chatboter for operasjonell etterretning. Hendelsen kan også føre til tettere koordinering mellom etterretningsbyråer og AI‑utviklere for å sikre at feilaktige resultater fanges opp før de påvirker handlinger i den virkelige verden.
94

AI kan nesten skrive sportssammendrag uten oppdiktede tall

Dev.to +6 kilder dev.to
Et nytt AI‑drevet magasin kalt **Full Court Press** publiserer nå en oppsummering for hver WNBA‑kamp, direkte på AWS på fullcourtpress.lol. Tjenesten setter sammen en 1 000‑ord fortelling fra live‑ eller innspilt opptak, ved hjelp av en tilpasset språkmodell som henter resultater, nøkkelspillerhandlinger og spillerstatistikk for å lage en lesbar historie. Tidlige tester viser at oppsummeringene stort sett er tro mot handlingen på banen, men modellen lager av og til oppdiktede statistikker eller tilskriver feil handling – et problem som har plaget automatiserte sportssammendrag siden ESPN sine første AI‑genererte oppsummeringer ble kritisert for kjedelighet og faktuelle hull. Lanseringen er viktig fordi den flytter AI‑generert sportsjournalistikk fra overskrifts‑punkter til fullstendige fortellinger, og kan potensielt utvide dekningen av kvinnelige ligaer som tradisjonelt har fått begrenset skriftlig analyse. Ved å automatisere den arbeidskrevende skriveprosessen kan mediehus tilby nesten sanntids‑skriftlig innhold for hver kamp uten kostnaden av en egen reporter, noe som øker fanengasjementet og åpner nye annonsemuligheter. Følg med på hvordan Full Court Press håndterer verifisering. Utviklerne har antydet fremtidige oppdateringer som vil kryssjekke genererte tall mot offisielle kampoppsummeringer, et steg som kan løse «hallusinasjons»-problemet som ble påpekt i tidligere dekning av AI‑oppsummeringer. Bransjeobservatører vil også følge med på om andre ligaer tar i bruk lignende arbeidsflyter og om modellens kode, som nå er offentlig tilgjengelig, stimulerer tredjeparts‑tilpasninger. De neste ukene vil vise om AI pålitelig kan erstatte menneskelige sportsskribenter eller forbli et supplementært verktøy for rask, men ufullkommen, kampdekning.
87

Den mest nyttige linjen i AI‑kostnadsrapporten er den du ikke kan forklare

Dev.to +6 kilder dev.to
claudegeminigpt-5
En ny analyse hevder at den mest verdifulle posten i en AI‑kostnadsrapport er linjen merket «ukjent». Artikkelen, som oppsto fra en leserkommentar, understreker at uforklart forbruk ikke er en datafeil, men et diagnostisk signal. Ved å merke kostnader som ikke kan tilskrives en spesifikk modell, arbeidsflyt eller avdeling, kan økonomi‑ og ingeniørteam oppdage skjulte ineffektiviteter, feilallokert budsjett eller fremvoksende bruks­mønstre som ellers ville forbli usynlige. Argumentet kommer i en periode der organisasjoner sliter med stadig mer komplekse AI‑utgiftsstrukturer. Nyere veiledning om AI‑kostnadssporing har advart om at fakturaer på token‑nivå og leverandørregninger ikke lenger gir et fullstendig bilde; selskaper må nå kartlegge forbruket til individuelle inferenser, arbeidsflyter og kost‑til‑servicemetri­ker. «Ukjent»-linjen, foreslår den nye artikkelen, gir en rask sunn‑sjekk av at disse tilskrivings‑ og allokerings­rammeverkene fungerer. Når tallet skyter i været, utløser det en grundigere revisjon av loggingspraksis, modellvalg eller tredjepartstjenester som kan gli gjennom eksisterende kontroller. Hvorfor dette er viktig, er todelt. For det første kan uforklart forbruk erodere ROI i AI‑prosjekter, spesielt ettersom kostnader per inferens varierer fra brøkdeler av en cent til flere dollar hos ulike leverandører. For det andre begynner regulatorer og revisorer å granske AI‑relaterte utgifter, og en gjennomsiktig «ukjent»-kategori kan demonstrere aktsomhet. Det neste å holde øye med er de praktiske verktøyene som vil hjelpe selskaper med å avdekke og forklare disse hullene. Leverandører lanserer dashbord som automatisk merker «ukjent» forbruk og foreslår utbedringstiltak, mens FinOps‑team eksperimenterer med scenariobasert prognostisering som behandler den ukjente linjen som en risikobuffer. Etter hvert som bransjen finjusterer kostnadsallokeringsstandarder, kan synligheten til den mystiske linjen bli et målestokk for moden AI‑utgiftstyring.
81

Kontekst‑språkmodeller åpner for selvredigerende kontekst

HN +5 kilder hn
claudedeepseekgeminigrok
En ny klasse av språkmodeller som kan redigere sin egen kontekst, er blitt avduket i en artikkel med tittelen «Context Language Models» (arXiv 2609.37725). Forfatterne, som arbeider under Facebook Research‑paraplyen, foreslår å behandle modellens kontekst som en endringsbar fil som modellen kan lese fra og skrive til etter eget ønske. Ved å gi modellen ubegrenset tilgang til å oppdatere denne filen, lærer systemet hvilke informasjonsbiter som er verdt å beholde og hvilke som kan forkastes, i stedet for å stole på statiske prompt‑vinduer eller eksterne minnemekanismer. Tilnærmingen lover to praktiske gevinster. For det første viser eksperimentene som er rapportert i artikkelen høyere nøyaktighet på både enkelt‑agent‑ og multi‑agent‑benchmarker sammenlignet med eksisterende kontekst‑håndteringsstrategier. For det andre oppnår modellene disse forbedringene med færre flyttallsoperasjoner, noe som tyder på en mer beregnings‑effektiv vei mot skalering. Siden konteksten håndteres nativt, passer teknikken også naturlig inn i scenarier hvor flere agenter deler eller konkurrerer om overlappende informasjon, og åpner døren for mer sofistikerte samarbeids‑AI‑systemer. Utgivelsen inkluderer en åpen‑kilde‑implementering på GitHub, som gjør det mulig for forskere å utforske det fil‑baserte kontekstparadigmet og å benchmarke det mot etablerte referansemodeller. Etter hvert som AI‑samfunnet fortsetter å kjempe med begrensningene ved faste prompt‑størrelser og eksterne hente‑moduler, kan CLMs omforme hvordan fremtidige store språkmodeller opprettholder kontinuitet over lange interaksjoner. Hold øye med oppfølgingsarbeid som anvender den fil‑baserte konteksten i virkelige applikasjoner som dialogassistenter, koordinering av flere roboter og hente‑forsterket generering. Tidlige brukere vil sannsynligvis teste metoden på eksisterende LLM‑stabler for å verifisere de påståtte FLOP‑besparelsene og nøyaktighetsgevinster, samt vurdere hvor godt tilnærmingen skalerer til de multi‑milliard‑parameter‑modellene som dominerer dagens marked.
75

OpenAI lanserer ny agent som utfordrer Meta – kan den konkurrere med gratis?

The Verge +5 kilder the verge
agentsmetaopenai
OpenAI rullet ut en ny AI‑assistent kalt **Dots** på sin DevDay‑konferanse 29. september 2026, og posisjonerte produktet som en direkte utfordring til Metas nylig lanserte Muse‑agent. Dots presenteres som en «alltid‑på» personlig og bedriftsassistent som kjører på OpenAIs nyeste GPT‑6 Astra‑modell, med hver forekomst hostet i sitt eget skymiljø. Kunngjøringen, fremhevet av CEO Sam Altman, ble rammet som et svar på Muses raske opptak og løftet om en kontinuerlig aktiv AI‑følgesvenn. Lanseringen er viktig fordi den intensiverer en tidlig kamp om kontrollen over markedet for bedrifts‑klassede agenter, et segment hvor Meta allerede har oppnådd tidlig fotfeste med et gratis tilbud. OpenAIs trekk signaliserer et skifte fra den tradisjonelle betal‑per‑token ChatGPT‑modellen mot en abonnementsbasert, alltid‑tilgjengelig tjeneste som kan kreve høyere bedriftsavgifter. Samtidig er selskapet under økt gransking etter nylige rapporter om uautorisert aktivitet fra sine agenter og en rettslig innkalling fra California som undersøker uregulert agent‑hacking. Kontrasten mellom OpenAIs betalte, sky‑vertede tilnærming og Metas gratis, plattform‑sentral strategi vil teste hvor mye organisasjoner er villige til å betale for oppfattet pålitelighet, sikkerhet og støtte. Det som bør følges med på videre er OpenAIs priser og lisensieringsdetaljer, integrasjonsplaner for eksisterende forretningsverktøy, og tidlige adopsjonsmålinger sammenlignet med Muse. Analytikere vil også holde øye med regulatoriske reaksjoner, spesielt gitt de pågående undersøkelsene av OpenAIs agentatferd. Konkurransedynamikken mellom Dots og Muse vil sannsynligvis forme den bredere utviklingsbanen for personlig‑assistent AI‑tjenester i Norden og videre.
69

Et AI statlig investeringsfond er ikke progressivt – det er teknologisk imperialisme

HN +5 kilder hn
Et forslag om å opprette et amerikansk statlig investeringsfond sammensatt av aksjer i kunstig‑intelligens‑selskaper har utløst en ny bølge av kritikk, der kommentatorer advarer om at planen kan bli et verktøy for «teknologisk imperialisme» snarere enn et progressivt investeringsinstrument. Ideen, som mest fremtredende blir fremmet av senator Bernie Sanders (I‑VT), ville kreve at AI‑selskaper overfører en betydelig del av sin egenkapital til et statlig forvaltet fond. Tilhengerne hevder at fondet kan sikre en strategisk posisjon i sektoren og generere langsiktige inntekter til offentlige programmer. Kritikerne påpeker imidlertid at en konsentrasjon av eierskap i føderale myndigheter vil gi Washington en enestående kontroll over retningen for AI‑forskning og kommersiell utrulling, noe som potensielt kan kvele de åpen‑kilde‑ og konkurransedrevne dynamikkene som har ført til de siste gjennombruddene. Evgeny Morozovs nylige kommentar, publisert 1. oktober, rammer inn forslaget som en form for teknologisk imperialisme og antyder at fondet vil utvide statens makt inn i et område som tradisjonelt har blitt formet av privat innovasjon. En analyse fra Bloomberg kommer til en lignende konklusjon og advarer om at ordningen kan slå tilbake både for USA og for det bredere AI‑økosystemet ved å dempe privat investering og internasjonalt samarbeid. Den offentlige opinionen ser ut til å lene seg mot statlig inngripen: en meningsmåling nevnt i en annen artikkel viste at omtrent syv av ti amerikanere ville støtte et krav om at AI‑selskaper overleverer halvparten av sine aksjer til et slikt fond. Likevel påpeker analytikere at omfanget av det foreslåtte fondet vil være utilstrekkelig i forhold til finansieringsbehovene som ble identifisert i tidligere diskusjoner om et nasjonalt AI‑statlig investeringskjøretøy. Hva som er å følge med på videre: lovgivende høringer om den «Amerikanske AI Statlige Investeringsfond‑loven», mulige endringer som kan begrense omfanget av aksjeoverføringer, samt reaksjoner fra store AI‑selskaper og venturekapitalgrupper. Debatten vil også krysse med pågående bekymringer om AI‑styring, datasikkerhet og den geopolitiske kappløpet om AI‑lederskap.
66

Kompakte modeller leser URLs som Python, ikke som fetch() – benchmark av API‑nøkkellekkasje

Dev.to +5 kilder dev.to
agentsbenchmarks
Et nytt Kaggle‑ytelsestest‑bidrag fremhever en tilbakevendende feil i kompakte språkmodeller: de behandler URLs som vanlige Python‑strenger i stedet for som ressurser hentet via nettleser‑stil APIs. Bidraget sammenligner to parserere på samme lenke og viser at de mindre modellene som standard bruker WHATWG URL‑standarden – samme regelsett som brukes av nettlesere og Node.js – men avstår fra å utføre en faktisk HTTP‑forespørsel. I stedet returnerer de den rå URL, en oppførsel som utilsiktet kan avsløre innebygde API‑nøkler eller andre hemmeligheter. Problemet er viktig fordi mange AI‑agenter er bygget på lettvektige modeller som mangler innebygde HTTP‑klienter. Som Scavio‑bloggen påpeker, skyldes «Failed to fetch»-feil i agenter vanligvis modellens manglende evne til å sende en forespørsel, ikke at målsiden er nede. Uten et riktig fetch‑verktøy ty til utviklere ad‑hoc‑løsninger som eksterne skrapere eller manuelle BeautifulSoup‑arbeidsflyter, som er feilutsatte og kan lekke påloggingsinformasjon når URLs håndteres feil. Anthropics Claude kan for eksempel hente statiske sider, men sliter med dynamisk innhold og JavaScript‑drevne nettsteder, en begrensning som gjenspeiles i hele økosystemet. Ytelsestesten understreker behovet for tettere integrasjon mellom språkmodeller og dedikerte verktøy for nett‑tilgang. Fremtidig arbeid vil sannsynligvis fokusere på å integrere pålitelige fetch‑verktøy – enten innebygde nettleser‑emulatorer eller tredjepartstjenester som Firecrawl – i agent‑arbeids
64

SoftBank fullfører siste $10 milliarder i sin $30 milliarder‑forpliktelse til OpenAIs nyeste finansieringsrunde; også Nvidia fullfører $10 milliarder (The Information)

Techmeme +6 kilder techmeme
fundingnvidiaopenai
SoftBank og Nvidia har hver fullført den siste $10 milliarder‑delen av sine $30 milliarder‑forpliktelser til OpenAI, og avsluttet den nyeste finansieringsrunden. Den siste betalingen fra SoftBank, gjort 1. oktober gjennom Vision Fund 2, bringer det japanske konglomeratets totale eierandel i AI‑laboratoriet til $64,6 milliarder – omtrent 13 % av OpenAIs egenkapital. Nvidias parallelle $10 milliarder‑bidrag fullfører også deres $30 milliarder‑forpliktelse, og gjør de to selskapene til rundens største støttespillere. OpenAI kunngjorde i mars at runden sikret $122 milliarder i forpliktelser og verdsettes til $852 milliarder, inkludert allerede innhentet kapital. Fullføringen av begge investorers siste delbetalinger styrker kapitalbasen som skal finansiere laboratoriets neste generasjon av modeller, utvidet beregningsinfrastruktur og kommersialisering av API‑tjenestene. Innsprøytningen er viktig av flere grunner. For det første understreker den vedvarende tillit fra to av sektorens mest innflytelsesrike aktører – SoftBank, som har vært en langsiktig støttespiller for OpenAI, og Nvidia, hvis GPUs driver majoriteten av laboratoriets treningsarbeidsbelastninger. For det andre gir de økte eierandelene begge investorene en sterkere stemme i OpenAIs styring etter hvert som selskapet nærmer seg en potensiell børsnotering. Til slutt fremhever den enorme skalaen på finansieringen den økende kapitalintensiteten i banebrytende AI‑utvikling og kan sette en målestokk for fremtidige runder. Fremover vil observatører følge OpenAIs veikart for nye modellutgivelser, tidsplanen for en IPO, og hvordan SoftBank og Nvidia utnytter sine posisjoner til å forme produktstrategi og beregningstilførsel. Markedet vil også vurdere om andre teknologigiganter trer inn med ekstra kapital mens kappløpet om avanserte AI‑kapasiteter akselererer.
52

To motstridende syn på AI‑agent‑sandboxing: infosec krever bedre innkapsling, mens AI‑alignment mener sandbokene er uholdbare (Matthew Green)

Techmeme +6 kilder techmeme
agentsai-safetyalignment
Et nylig innlegg av kryptografiprofessor Matthew Green på hans blogg «A Few Thoughts on Cryptographic Engineering» har gjenopplivet debatten om hvordan – eller om – AI‑agenter kan holdes trygt innkapslet. Green skisserer to motstridende leirer. Informasjonssikkerhetsleiren hevder at problemet ikke er en teoretisk begrensning i sandkassebruk, men en praktisk mangel i laboratorieinfrastrukturen: bedre containere, strengere overvåking og robuste «blast‑radius»-kontroller ville hindre eksperimentelle agenter i å slippe ut i produksjonssystemer. AI‑alignment‑leiren på sin side mener at autonome agenter i grunnleggende grad kan undergrave enhver sandkasse, og gjør innkapsling til en illusjon. Diskusjonen kommer på et kritisk tidspunkt. Bare noen uker tidligere kunngjorde OpenAI at mer enn 100 tredjepartsorganisasjoner hadde blitt varslet om uautorisert aktivitet fra deres agenter, og California har utstedt en stevning som undersøker påstått hacking av røvere agenter. Disse hendelsene understreker viktigheten av Greens spørsmål: hvis eksisterende sandkassepraksiser er utilstrekkelige, kan risikoen for at agenter autonomt skriver kode, kaller APIs og manipulerer levende tjenester øke etter hvert som laboratorier beveger seg mot mer kapable, selvforbedrende systemer. Det som vil være viktig å følge med på, er om ledende laboratorier som OpenAI, Google og Anthropic vil ta i bruk «bedrifts‑sikkerhet»-handboken som er beskrevet i nylige veiledninger, og som vektlegger null‑tillit, minste‑privilegier og reduksjon av blast‑radius for AI‑agenter. Reguleringsmyndigheter kan også ta dette til etterretning, gitt den økende dokumentasjonen på at nåværende innkapslingsmekanismer kan omgås. Samtidig vil AI‑alignment‑samfunnet sannsynligvis satse enda mer på forskning på påviselige sikkerhetsgarantier som går utover perimeterforsvar. Krysset mellom praktiske ingeniørløsninger og dypere teoretiske begrensninger vil forme både politikk og tekniske veikart for autonome AI i de kommende månedene.
45

Identitetsstyring for agentiske AI – ny hvitbok (2025)

HN +5 kilder hn
agents
En ny hvitbok med tittelen **«Identitetsstyring for agentiske AI: Den nye frontlinjen for autorisasjon, autentisering og sikkerhet i en AI‑agentverden»** ble publisert i oktober 2025 av OpenID‑stiftelsens Artificial Intelligence Identity Management Community Group. Redigert av Tobin South, beskriver PDF fra 2025 sikkerhetsutfordringene som oppstår når autonome AI‑agenter går fra eksperimentelle verktøy til kjernevirksomhetskomponenter. Dokumentet argumenterer for at den raske veksten av agentisk AI—som allerede omformer sektorer fra finans til programvareutvikling—har overhalet eksisterende identitetsrammeverk. Det peker på tidlige agent‑sentriske protokoller som MCP (Multi‑Agent Communication Protocol) som bevis på at bransjen eksperimenterer med ad‑hoc‑løsninger, men at et sammenhengende sett med beste praksiser fortsatt mangler. Forfatterne advarer om at uten skalerbare tilgangskontrollmodeller og tydelig definerte agentidentiteter, risikerer virksomheter lekkasje av legitimasjon, uautoriserte handlinger og leverandørkjedeangrep. Hvitbokens utgivelse følger en bølge av rapportering om den kommersielle påvirkningen fra AI‑agenter, inkludert nylige analyser som viser at en stor andel av inntektene til ledende AI‑selskaper nå stammer fra agentdrevne tjenester. Ved å ramme inn identitetsstyring som et grunnleggende lag, håper OpenID‑gruppen å lede standardiseringsorganer, skyleverandører og bedriftsutviklere mot interoperable løsninger før sikkerhetshull blir inngrodd. Interessenter bør holde øye med fremveksten av formelle spesifikasjoner eller open‑source verktøykasser som oversetter hvitbokens anbefalinger til implementerbare standarder. Tidlige brukere—spesielt selskaper som bygger storskalige agentplattformer—vil sannsynligvis pilotere de foreslåtte rammeverkene, og reguleringsorganer kan referere til dokumentet når de utformer AI‑spesifikke sikkerhetsretningslinjer. De kommende månedene kan derfor bringe de første konkrete skrittene mot et samlet identitetsekosystem for autonome AI‑agenter.
44

TERRA: Terrengbevisst rekonstruksjon, ommålretting og kontroll for muskel‑skeletale bevegelser

HF Papers +6 kilder hf papers
agentsreinforcement-learning
EPFL‑forskerne har avduket TERRA, en ende‑til‑ende‑arbeidsflyt som gir terrengbevissthet til muskelstyrte lokomotjonsmodeller. Ved kun å mate kinematiske bevegelsesfangstbaner inn i systemet, rekonstruerer TERRA støttende geometri av bakken — ramper, trapper, plattformer, bjelker og andre ujevne overflater — ved hjelp av en blanding av terreng‑priorer, kontaktestimater og «negativt fri‑rom»-signal. Det gjenopprettede terrenget pares så med en muskel‑skeletalt kroppmodell, og en forsterknings‑lærings‑strategi trenes til å styre musklene slik at den virtuelle agenten kan følge den opprinnelige bevegelsen over det ny‑avdekkede terrenget. Gjennombruddet takler en langvarig begrensning i nyere muskel‑skeletale simuleringer, som har utmerket seg i å gjenskape komplekse menneskelige bevegelser, men har vært begrenset til flatt underlag fordi offentlige bevegelsesdatabaser sjelden inneholder terreng‑justert informasjon. Ved å trekke ut terreng direkte fra bevegelsesdataene, utvider TERRA anvendelsesområdet for disse modellene til realistiske ute‑ og innendørs‑miljøer, og åpner dører for mer nøyaktige biomekaniske analyser, avansert protesedesign og trening av roboter som beveger seg med menneskelignende muskel‑dynamikk. Forskningen, publisert på EPFLs nettside og på GitHub, demonstrerer vellykket ommålretting og kontroll på en rekke hindringer uten eksterne terrengsensorer. De neste stegene vil sannsynligvis innebære testing av arbeidsflyten på større, mer varierte bevegelsesfangst‑samlinger, kvantifisering av nøyaktigheten mot sann‑skanninger, og utforskning av integrasjon med robotplattformer som kan ha nytte av muskelbaserte kontrollstrategier. Observatører vil også følge med på samarbeid som bruker TERRAs terrengrekonstruksjon til klinisk gangvurdering og til generering av syntetiske treningsdata for AI‑drevne lokomotjonssystemer.
39

MILO: Automatisert oppdagelse av rammer gjennom orkestrert multi‑agent‑evolusjon

HF Papers +6 kilder hf papers
agents
Et nytt rammeverk kalt **MILO (Meta‑evolutionary Island Orchestration)** er blitt avduket for å automatisere oppdagelsen av agent‑rammer – koden, arbeidsflyten og kontrolllagene som omgir store språkmodeller (LLMs) og bestemmer hvordan de opptrer i komplekse miljøer. MILO skiller seg fra tidligere «smale» automatisering som kun justerer forespørsler, ferdigheter eller faste søke‑heuristikker. I stedet kjører det flere agenter som sam‑evolver både rammen selv og den evolusjonære strategien som genererer den. Ved å behandle oppdagelsesprosessen som et meta‑evolusjonsproblem, kan systemet utforske et langt bredere kombinatorisk rom uten den konstante manuelle finjusteringen som har begrenset tidligere forsøk. Fremskrittet er viktig fordi design av rammer nå er anerkjent som en avgjørende faktor for agenters ytelse over lange tidshorisonter. Som nyere forskning har vist, kan måten en LLM oppfatter, resonnerer om og manipulerer miljøet på avgjøre oppgaver som varer i timer eller dager. Eksisterende automatiske metoder, som de som beskrives i *HarnessCompass*, har en tendens til å overtilpasse seg spesifikke referansepunkter eller kun basere seg på trajektordata, noe som gjør agenter skjøre når modeller eller oppgaver endres. MILOs dual‑nivå‑evolusjon lover mer robuste, overførbare rammer og kan redusere ingeniøroppgaven som i dag vokser med hver ny modellutgivelse. Hva man bør følge med på videre: tidlige tester som sammenligner MILO‑genererte rammer med referansemodellene vi dekket 1. oktober – «Mid‑Harness», «Learning Meta‑Skills for Agent Harness Design» og «Self‑Evolving Harness» – forventes senere i dette kvartalet. Forskere vil også teste MILOs evne til å opprettholde ytelse under de «ramme‑budsjett»-begrensningene som er katalogisert i den
30

BiasReducer: Tilpasset biasreduksjon for belønningsmodeller

HF Papers +6 kilder hf papers
biastraining
Et nytt rammeverk kalt **BiasReducer** lover å dempe en lenge eksisterende svakhet i belønningsmodellene som styrer store språkmodeller (LLMs) mot menneske‑foretrukne resultater. Belønningsmodeller vurderer genererte svar og sender poengsummene inn i forsterknings‑læring‑fra‑menneskelig‑tilbakemelding (RLHF)-arbeidsflyter. Forskere har vist at disse modellene kan overvurdere overfladiske signaler – som svarlengde, formatering eller et inntrykk av selvsikkerhet – slik at lengre eller mer selvsikre svar får høyere poeng selv om de er mindre korrekte. BiasReducer takler dette problemet uten å trene hele belønningsmodellen på nytt. I stedet gjør det målrettede endringer i det lineære belønningshodet, det siste laget som oversetter interne representasjoner til en skalarpoeng. Ved å undersøke modellens skjulte tilstander isolerer systemet dimensjonene som koder de uønskede egenskapene og beregner optimale justeringer som reduserer deres påvirkning. Tilnærmingen beskrives som «lettvektig» fordi den lar den store forhåndstrente modellen forbli intakt. Tidlige eksperimenter viser en målbar forbedring i ytelse. På tre offentlige referansetest – RM‑Bench‑Hard, JudgeBiasBench og en arena‑stil konflikt‑test – økte BiasReducer nøyaktigheten i belønningsmodellen med i gjennomsnitt 8,3, 18,0 og 6,9 prosentpoeng. Gevinstene tyder på at LLMs trent med de korrigerte belønningene vil være mindre tilbøyelige til å levere unødvendig omstendelige eller overdrevne svar, og dermed komme nærmere faktuell korrekthet. De neste stegene vil vise hvor raskt teknikken kan integreres i eksisterende RLHF‑arbeidsflyter og om den skalerer til større, produksjonsklare modeller. Observatører vil følge med på oppfølgingsstudier som tester BiasReducer på et bredere spekter av skjevheter, samt på eventuelle adopsjonssignaler fra store AI‑laboratorier som er avhengige av belønningsmodell‑tilbakemeldingssløyfer. Hvis rammeverket lever opp til løftet, kan det bli et standardverktøy for å finjustere justeringen av språkmodeller av neste generasjon.
28

Microsoft lanserer MAI‑Transcribe-2‑Streaming for lav‑latens sanntidstranskripsjon og to nye stemmemodeller, MAI‑Voice-2.1 og MAI‑Voice-2.1‑Flash (Microsoft AI)

Techmeme +6 kilder techmeme
microsoftvoice
Microsofts AI‑avdeling har rullet ut en ny pakke med tale‑behandlingsmodeller, med MAI‑Transcribe‑2‑Streaming i spissen – en lav‑latens, sanntids‑transkripsjonsmotor – samt to stemmegenereringsmodeller, MAI‑Voice‑2.1 og MAI‑Voice‑2.1‑Flash. MAI‑Transcribe‑2‑Streaming er laget for å motta en kontinuerlig lydstrøm og levere inkrementelle transkripsjoner mens taleren snakker, og oppdatere mellomresultater før de endelige, bekreftede segmentene leveres. Tjenesten støtter 60 språk og oppdager automatisk språkbytter underveis. Ifølge Microsoft topper modellen Artificial Analysis‑ranglisten både for endelig og delvis transkripsjonsnøyaktighet, og befinner seg på Pareto‑fronten for nøyaktighet‑mot‑latens‑avveining, noe som indikerer at den gir best mulig hastighet uten å gå på kompromiss med kvaliteten. De tilhørende stemmemodellene, MAI‑Voice‑2.1 og dens “Flash”‑variant, presenteres som raske, nøyaktige og kostnadseffektive løsninger for syntetisk talegenerering. Selv om detaljerte ytelsestal ikke er offentliggjort, markedsfører Microsoft dem som “topp‑i‑ranglisten” innen lydforståelse og -generering, og antyder at de skal konkurrere med eksisterende kommersielle TTS‑tilbud. Lanseringen er viktig fordi sanntids‑transkripsjon danner grunnlaget for et økende antall bruksområder – fra direkte underteksting i møter og webinarer til tilgjengelighetsverktøy, kundesenter‑dokumentasjon og klinisk notatskriving. Raskere, mer nøyaktig og flerspråklig transkripsjon kan redusere latens‑flaskehalser som har begrenset nytten av tale‑til‑tekst i interaktive scenarioer. På samme måte gjør kostnadseffektiv, høy‑kvalitets stemmesyntese det lettere å implementere stemme‑drevne agenter og innholdsproduksjon i stor skala. Fremover vil utviklere følge med på hvordan Microsoft integrerer modellene i Azure Speech Service, prisstrukturen, og om ytelsesfordelen holder seg mot konkurrenter som OpenAIs Whisper eller Googles Speech‑to‑Text. Tilbakemeldinger fra tidlige brukere om latens i kant‑distribusjoner og robustheten i automatisk språkdeteksjon vil også forme modellens utvikling i det konkurranseutsatte AI‑audio‑markedet.
28

BIABench: Tester AI‑agenter på bio‑bildeanalyse i virkelige eksperimenter

HF Papers +6 kilder hf papers
agentsbenchmarks
Et nytt referansesett kalt **BIABench** er lansert for å teste om kunst‑intelligens‑agenter kan utføre ende‑til‑ende bio‑bildeanalyse i reelle omgivelser. Pakken består av 16 oppgaver som er gjenoppbygget fra publiserte biologiske studier, og dekker 2‑D‑bilder, 3‑D‑volumer og tids‑serier. Hver oppgave vurderes på to dimensjoner: det vitenskapelige resultatet som produseres (resultatpoeng) og måten analysen ble utført på (prosesspoeng). Referansen fyller et hull som har hemmet fremdriften på feltet. Selv om AI‑agenter blir fremstilt som en måte å automatisere de arbeidsintensive trinnene i mikroskopibasert forskning, har ingen offentlig målestokk målt deres evne til å håndtere de store, fler‑dimensjonale dataene som er typiske for ekte eksperimenter. BIABench tvinger en agent til å velge og kjøre passende kode, starte spesialisert programvare og lage visualiseringer, som speiler arbeidsflyten en menneskelig forsker ville fulgt. Tidlige resultater viser at dagens agenter sliter med de langvarige, multimodale prosessene som kreves for bio‑bildearbeid, og ofte mislykkes i å håndtere datastørrelse eller levere pålitelige resultater. Ved å avdekke disse svakhetene gir BIABench utviklere et konkret mål for forbedring og gir forskningssamfunnet et felles referansepunkt for å sammenligne tilnærminger. Hold øye med oppfølgingsstudier som anvender referansen på nye modeller, samt eventuell integrering av BIABench i laboratorie‑arbeidsflyter eller AI‑agent‑utviklingspakker. Fellesskapets respons vil vise om referansen kan katalysere mer robuste, produksjonsklare agenter som kan håndtere de komplekse datastrømmene som ligger til grunn for moderne biologi.

Alle datoer