AI News

358

OpenAI-stjórnarmaðurinn sem sparkaði Sam Altman segir að við getum enn ekki treyst AI CEOs

OpenAI-stjórnarmaðurinn sem sparkaði Sam Altman segir að við getum enn ekki treyst AI CEOs
Mastodon +6 heimildir mastodon
ai-safetyopenai
Helen Toner, fyrrum OpenAI-stjórnarmaður og nú framkvæmdastjóri Georgetown’s Center for Security and Emerging Technology, sagði í TED AI Show að stjórnunarbreytingin hjá fyrirtækinu árið 2023 gefi enn skarpa viðvörun: „Við getum ekki treyst AI CEOs.“ Í nýju viðtali sem gefið var út í dag endurtekir Toner ákvörðun stjórnenda um að fjarlægja Sam Altman í nóvember 2023 og útskýrir að ákvörðunin byggðist á mynstri um að halda upplýsingum frá sér, rangt framsetja starfsemi OpenAI og ljúga stjórnendum beint. Opinbera yfirlýsing stjórnenda um að þeir „hafa ekki lengur traust á getu hans til að halda áfram að leiða OpenAI“ endurspeglar þessi áhyggjuefni, og atburðurinn er annar þáttur í seríunni um AI í raunveruleikanum. Athugasemdirnar eru mikilvægar vegna þess að þær sýna kerfislegan veikleika í nýja AI iðnaðinum: stjórnunarkerfi byggja oft á trúverðugleika eins charismatískra leiðtoga. Toner varar við því að hver öryggisstefna sem byggist á heiðarleika eins einstaklings sé í vandræðum, og bendir á áhættuna að óskýrð stjórnunarvalda geti skaðað gagnsæi, ábyrgð og að lokum almannaöryggi. Þegar AI kerfi auka getu sína og umfang, hækka áhrif stjórnendabilana verulega, sem ýtir að stjórnvöldum og fjárfestum til að kanna stjórnarfylgi nákvæmari. Framtíðarsýn viðtalsins bendir til líklegra þrýstings á sterkari, fjölbreyttari stjórnun hjá AI fyrirtækjum. Hagsmunaaðilar geta búist við endurnýjuðum umræðum í stefnumótun um uppbyggingu stjórnenda, fjárhagslegar skyldur og óháða endurskoðunarferla. Fylgist með tilkomandi tillögum frá CSET og öðrum hugmyndasmiðjum, sem og mögulegum stjórnsýsluaðgerðum í EU og Bandaríkjunum sem miða að því að formúla eftirlit með forstjórum AI. Samræðan bendir einnig á fleiri þætti í seríunni, sem gætu fjallað um raunveruleg umbót og hlutverk ytri eftirlits til að koma í veg fyrir annan „Altman‑stíl“ kreppu.
133

ChatGPT hætti að mæla með forritinu yfir nótt; ástæðan var lénaskipti og ein regluleg tjáning

ChatGPT hætti að mæla með forritinu yfir nótt; ástæðan var lénaskipti og ein regluleg tjáning
Dev.to +5 heimildir dev.to
ChatGPT hætti að mæla með vinsælu iOS‑forriti yfir nótt, breytingin rekst til einfalds lénaskipta og einnar reglulegrar tjáningar í úttektarpípu módelins. Í nokkur vikur hafði spjallmennið beina um það bil þriðjung spurninganna um forrit til forritsins, og var þar með mestur sölumaður þess. Þegar vefsíða forritsins flutti á nýtt lén, fór breytingin framhjá úttektavísinum, og regluleg tjáning sem síaði út ákveðna URLs óvart lokaði á nýja slóðina. Útkoman varð skyndilegur hnignun í mælingum, sem sáist bæði af forriturum og notendum. Atvikið sýnir hversu nákvæmt AI‑stýrð leit og mæltakerfi eru háð uppfærðum vísum og nákvæmri mynsturviðurkenningu. Svipaðir úttektartruflanir hafa komið fram annars staðar: September 2026 greining sýndi 85 % hnignun í úttektum ChatGPT eftir breytingu á vefsvæðisspurningum og Cloudflare veffræðiblock, á meðan August 2026 skýrsla skráði 86 % minnkun í tilvitnunum Reddit eftir arkitektúrbreytingu. Saman sýna þessar tilvik að smávægilegar stillingarbreytingar geta leitt til verulegra sýnileikstapta fyrir fyrirtæki sem treysta á AI aðstoðarmenn til að finna sig. Forritarar og markaðsmenn ættu nú að yfirfara lénastillingar sínar, tryggja að allar tilvísanir varðveiti krækjanleika, og skoða reglulegar tjáningar sem gætu óvart útilokað efni. OpenAI mun koma með uppfærslur á úttektararkitektúr sínum sem gætu leyst slíka viðkvæmni, en atvikið minnir á að AI mæltarpípur eru ekki ónæm fyrir hefðbundnum SEO vandamálum. Að fylgjast með frekari leiðbeiningum frá OpenAI og fylgjast með úttektarmælum verður lykilatriði fyrir alla sem umferð þeirra byggist á uppástungum ChatGPT.
39

Ósamræmi milli matara AI umboðsmanna: Empirísk rannsókn á innbyggðu stigakerfi, LLM dómurum og mörkakönnunum í tau2‑bench

Ósamræmi milli matara AI umboðsmanna: Empirísk rannsókn á innbyggðu stigakerfi, LLM dómurum og mörkakönnunum í tau2‑bench
Mastodon +6 heimildir mastodon
agentsreasoning
Ný empírskt rannsókn hefur sýnt áberandi bil á milli algengustu aðferða til að meta AI umboðsmenn sem vinna með gögn. Rannsakendur keyrðu 2.160 þáttum tau2‑bench flugfélags- og smásöluáætlunum, skráðu hvert gagnagrunnsskrif og mettu hverja keyrslu með fjórum aðgreindum aðferðum: innbyggða stigamats viðmiðsins miðað við gullástandsviðmið, almennan LLM dómara, sama LLM dómara með stefnuá skjali og „mörkamatara“ sem einfaldlega athugar hvort skrif var vænt. Innbyggði stigamatinn og einfaldur LLM dómari sáu aðeins 56,2 % þáttanna, þó LLM dómari endurtekir dóm sinn 98,2 % sinnum, sem sýnir háa innri samkvæmni en lág samsvörun við raunveruleg niðurstöður. Þegar stefnuá textanum var bætt við, merkti LLM dómari rétt 10 af 11 þáttum þar sem umboðsmaðurinn framkvæmdi bannað skrif. Á móti greindi rökstuðlaður dómari aðeins sex af þeim brotum, og lágmarksreglubundin mörkakönnun merkti öll ellefu brot, en missaði aðrar villur. Af hverju þetta skiptir máli: Þegar umboðsmannavinnsluferlar—LLMs sem kallar á verkfæri til að lesa og skrifa gögn—verða kjarninn í viðskiptalegum AI kerfum, er áreiðanleg mat ómissandi til öryggis og samræmis. Niðurstöðurnar benda til þess að treysta á einn, ógegnsæjan LLM dómara geti falið alvarleg brot, á meðan stefnu‑vitaðar eða reglubundnar athuganir bjóða upp á traustari öryggisnet. Á næstu tíma: Samfélagið mun líklega kanna blandaða mataraferla sem sameina stærðarhæfni LLM dómara með nákvæmni stefnu‑grunnvalla og léttum mörkakönnunum. Frekari vinna gæti einnig prófað þessar aðferðir á stærri, fjölbreyttari við
39

UniPat AI kynnir SPU-mælikvarða: Beinir AI-aðilum í að spá fyrir um raunveruleg blóðvísindapróf, enginn náði Above 0.5

UniPat AI kynnir SPU-mælikvarða: Beinir AI-aðilum í að spá fyrir um raunveruleg blóðvísindapróf, enginn náði Above 0.5
Mastodon +6 heimildir mastodon
agentsbenchmarks
UniPat AI hefur kynnt Science Prediction Universe (SPU), nýjan mælikvarða sem biður AI-aðila um að spá fyrir um niðurstöður raunverulegra blóðvísindaprófa áður en nein gögn eru söfnuð. Prófunarsettinu er 116 verkefni – 100 tekin úr nýlegum Nature Portfolio greinum og 16 úr óútgefnum tilraunum – og það nær yfir efnafræði, efnaefni, líffræði og læknisfræði. Across 4,207 einstakar tilraunir, 13 gerðar módelanna voru metnar; besti frammistöðumaðurinn, Claude Opus 5.5, náði meðaltals Spearman-tengslum 0.486, aðeins umfram 0.5 tilviljunarlínuna og náði aðeins um helming verkefnanna. Útgáfan er mikilvæg vegna þess að hún ýtir mörkum “fyrirspár‑fyrst” vísinda, þar sem AI gæti leitt til hönnunar tilrauna, minnkað sóun í efnum og flýtt fyrir uppgötvunum. Alltaf fram til þessa hafa flestir AI-
34

Jensen Huang byggir fjölmilliardadollastarfsemi til að veita kínverskum fyrirtækjum aðgang að Nvidia AI örgjörvum í SE Asíu‑gagnaverum, nýtt eyðalöggjöf í US refsiaðgerðum

Jensen Huang byggir fjölmilliardadollastarfsemi til að veita kínverskum fyrirtækjum aðgang að Nvidia AI örgjörvum í SE Asíu‑gagnaverum, nýtt eyðalöggjöf í US refsiaðgerðum
Techmeme +6 heimildir techmeme
chipsnvidia
Jensen Huang, forstjóri Nvidia, hefur stjórnað stofnun fjölmilliardadollastarfsemi sem flytur bandarísku AI örgjörva til kínverskra fyrirtækja í gegnum risastórar gagnaver í Suðaustur‑Asíu. Með því að staðsetja vélbúnaðinn utan Kína umhverfir netið eyðileggur eyðalöggjöf í útflutningsrefsiðum Bandaríkjanna sem hindra beinar sölu á háafkömum GPUs til Peking. Áætlunin byggir á vef af svæðisbundnum samstarfsaðilum sem leigja eða hýsa búnaðinn, veita kínverskum viðskiptavinum reiknileiknið sem þeir þurfa á meðan viðskiptin eru tæknilega utanlands. Samkomulagið er mikilvægt vegna þess að það minnkar áhrifatól Washington notar til að hamla framþróun Kína í framleiðslu‑AI og öðrum háþróuðum tækni. Embættismenn Bandaríkjanna hafa merkt líkanið sem öryggisáhættu á landsvísu, og opinberunin hefur kveikt nýjan pólítískan storm, þar sem löggjafarþing, stjórnun Nvidia og fjárfestar krefjast svara. Sagan fellur einnig í línu við fyrri skýrslur um smuglunarrekstur sem flutti um 1,5 milljón AI GPUs, þáttur sem gæti hafa stuðlað að nýlegum stjórnunaróöryggi hjá Nvidia. Enn fremur hafa rannsóknargreinar tengt langtímasamband Huang við Alice Huang—sem bandarísk yfirvöld hafa greint sem kínverskt leynimannafl—við sendingar að minnsta kosti 7,5 billið dollara, sem bendir til að bakdyrnar hafi verið í notkun í mörg ár. Það sem á eftir að fylgjast með eru líklegir þingfundir í þingi og möguleg reglugerðarátök sem miða að því að þrengja á framkvæmd refsiaðgerða á birgðakeðjum hálfleiðara. Áætlað er að Nvidia hefji innri yfirferð, og stjórnin gæti orðið undir þrýstingi að endurskapa Asíu‑samstarfslíkanið. Atvikið gæti einnig hvatt víðtækari iðnaðarrannsóknir á því hvernig aðrir örgjörvaframleiðendur flytja vörur til takmarkaðra markaða, og breytt alþjóðlegu landslagi AI vélbúnaðar.
16

Databento, sem býður upp á markaðsgögn APIs og hefur samninga við fimm af sex stærstu frontier AI rannsóknarstofum, fær $100 m í Series C og verðmetið er $1,1 bn (FinTech Global)

Databento, sem býður upp á markaðsgögn APIs og hefur samninga við fimm af sex stærstu frontier AI rannsóknarstofum, fær $100 m í Series C og verðmetið er $1,1 bn (FinTech Global)
Techmeme +1 heimildir techmeme
Databento, veitandi markaðsgagna APIs fyrir nútíma fjármálageirann, tilkynnti $100 milljón í Series C fjármögnun sem hækka verðmæti fyrirtækisins í $1,1 milljarða. Rúnan, sem var opinberuð af FinTech Global, undirstrikar traust fjárfesta á sérsviði fyrirtækisins við að veita rauntíma verðlagningu, tilvísanir og gögn um fyrirtækjaákvarðanir í gegnum forritanleg viðmót. Fyrirtækið leggur áherslu á að það veiti nú þegar gögn til fimm af sex stærstu frontier AI rannsóknarstofum, sem staðsetur Databento sem lykilás milli óunninna markaðsupplýsinga og næstu kynslóða AI‑knúinna viðskipta-, áhættustýringar- og greiningartækja. Með því að innfelda hárfrekna, smáatriða flæði í stórum þjálfunarpípunum fyrir módel, geta þessar rannsóknarstofur flýtt fyrir þróun reikniritanna sem túlka markaðsdýnamík með óviðjafnanlegum hraða og nákvæmni. Fjárfestingin er líkleg til að fjármagna vöruframboð, dýpri samþættingu við AI rannsóknarvinnslu og víðari landfræðilegt umfang. Hún gefur einnig Databento runway til að styrkja gagna‑
15

Claude eyðir kennslustefnu og árinu af fyrirlesturathugrúnir þegar beðið er um að endurraða blaðsíðum

Claude eyðir kennslustefnu og árinu af fyrirlesturathugrúnir þegar beðið er um að endurraða blaðsíðum
HN +1 heimildir hn
claude
Anthropic’s Claude AI eyðaði óvart kennslustefnu kennara og heilt ár af fyrirlesturathugrúnir þegar notandinn bað kerfið um að endurraða blaðsíðum. Eyðing átti sér stað í rútínulegri skjalavinnslu, sem skildi akademikann án mikilvægra kennsluefna og vakti tafarlausan áhyggjur meðal notenda sem treysta á Claude í skrifstofu‑sjálfvirkni. Atvikið er mikilvægt vegna þess að það dregur fram viðkvæmni gerðarmyndandi AI aðstoðarmanna við að vinna með skráakerfis aðgerðir. Þó að Claude sé ítrekað kynnt sem handlaust forritunartól með samhliða vinnumanna getu, sýnir villan að jafnvel einfaldar skipanir geta leitt til óvæntra gagnaútrýminga. Fyrir kennara og aðra sérfræðinga sem hafa byrjað að innleiða Claude í daglegar vinnuferla vekur atvikið spurningar um öryggisráðstafanir, samþættingu útgáfustýringar og gegnsæi í afturkallunarferlum. Áframhaldandi þróun: Anthropic mun líklega svara með tæknilegri skýringu eða viðbót sem bætir við staðfestingar skrefum fyrir eyðilegar aðgerðir. Áhorfendur munu einnig fylgjast með hvort fyrirtækið endurskoði skjölun fyrir skráastjórnun eiginleika Claude og hvort það kynni öflugri öryggisafrits‑ eða endurheimtarmöguleika. Atvikið bætir við nýlegum athugunum á áreiðanleika Claude, eftir fyrri skýrslur um afturköllun eiginleika og óvenjur í Duet og Code agents.
12

Nýtt ‘Aðgangur að réttlæti’ viðmið sýnir að leiðandi AI líkön missa mikilvæg lagaleg atriði

HN +1 heimildir hn
benchmarks
Nýtt viðmið ‘Aðgangur að réttlæti’ hefur verið sett í loftið til að meta hversu vel stórt tungumálalíkön takast á við raunveruleg lagafyrirspurnir. Fyrstu niðurstöður sýna að algengustu AI kerfin skortir, þar sem þau hunsa eða misskilja lykil
12

AutoAssumption: Leitin í forsendum uppgötvar ný algrím fyrir ML‑kerfi

AutoAssumption: Leitin í forsendum uppgötvar ný algrím fyrir ML‑kerfi
ArXiv +1 heimildir arxiv
Nýtt forsnið á arXiv, með titlinum **“AutoAssumption: Leitin í forsendum uppgötvar ný algrím fyrir ML‑kerfi,”** leggur til kerfisbundna aðferð til að uppgötva falna hagkvæmni í vélarnáms pípur. Höfundarnir greina að mörg söguleg brot í tækni—til dæmis spáð afkóðun, sem hafnaði löngum tíma viðvarandi forsendu um að tungumálalíkani þurfi að framkvæma sérstakt framhaldsskref fyrir hvert tákn—komu fram þegar vísindamenn beint íhugaðu óskýrðar takmarkanir. En þeir benda á að flestir algrímsgreinar telja aldrei upp þær forsendur sem þeir byggja á, og skilja þannig eftir stórt leitarvægi ókannað. AutoAssumption‑rammarinn lítur á forsendur sjálfar sem leitanlegar breytur. Með því að telja upp og prófa íhlutalausnir getur kerfið leitt í ljós nýjar algrímsbreytingar sem annars hefðu verið óuppgötvaðar. Fyrstu tilvikin sem nefndir eru meðal annars mismunandi aðferðir við táknframleiðslu og minnisstjórnunartríkir sem gætu minnkað tafar í ályktun eða kostnað við þjálfun. Ef aðferðin reynist skalanleg, gæti hún umbreytt því hvernig samfélagið hönnun ML‑kerfi, og breytt því sem nú er að mestu byggt á innsæi í ferli sem er meira endurtekjanlegt og gagnadrifið. Það myndi flýta fyrir hraða hagkvæmnisbóta, lækka hindranir fyrir minni rannsóknarstofur og mögulega endurskilgreina vegvísar í samhönnun vél
12

GenPFN: Aðferð í samhengi með töflulegum grunnlíkani til að stækka litla gagnasöfn í verkfræði

GenPFN: Aðferð í samhengi með töflulegum grunnlíkani til að stækka litla gagnasöfn í verkfræði
ArXiv +1 heimildir arxiv
training
Nýtt forsnið á arXiv (2611.14804v1) kynningar **GenPFN**, aðferð sem nýtir fyrirfram‑þjálfað töflulegt Prior‑Data Fitted Network (TabPFN) til að búa til tillögur að hönnun án nokkurra viðbótarþjálfunar. Höfundarnir halda því fram að dýrar hermingar og líkamlegar tilraunir skilji oft verkfræðiteymi aðeins með þunnum gagnasöfnum, sem takmarkar umfang hagræðingar og nýsköpunar. Með því að líta á fastþyngda TabPFN flokkara sem leiðandi fyrirsjáning, getur GenPFN lagt til raunhæfar hönnunarpunkta beint úr þeim takmörkuðu gögnum sem þegar eru til staðar, og þannig auka litla verkfræðigagnasöfn í samhengi. Aðferðin er mikilvæg því hún forðist gögnunæmni þjálfunarhringa sem ráða flestum nútíma gerandi líkani. Á sviðum eins og loftförum, bifreiðum eða efna‑verkfræði, þar sem hver hermun getur tekið dögum af útreikningum eða dýrum labborðum, gæti þjálfunarlaus gerandi flýtt fyrir fyrstu skrefum í könnun og minnkað þörfina á umfangsmikilli gagnasöfnun. Auk þess fellur notkun töflulegs grunnlíkanar í samræmi við vaxandi áhuga á að beita grunnlíkaniðækniaðferðum utan tungumála og sjónar, og útvíkka þær til uppbyggðra verkfræðigagna. Næstu skref mun líklega fela í sér raunverulega sannprófun á hönnunarvandamálum í raunveruleikanum og samanburð við núverandi gagnauppbyggingu eða varalíkani‑pípur. Rannsakendur munu fylgjast með eftirfylgjandi rannsóknum sem prófa hæfni GenPFN til að bæta hagræðingarútkoma, samþætta við hermun‑í‑hringi vinnuferla, eða sameina við nýrri fjölbreyttar líkanir til að skapa ríkari hönnunarlýsingar. Ef aðferðin reynist traust, gæti hún orðið léttvægur verkfæri fyrir verkfræðinga sem leita að fljótri, gagnavinna hugmyndavinnu.
12

Smugling á 1,5 milljónum AI GPUs gæti útskýrt brottför Jensen Huang

Smugling á 1,5 milljónum AI GPUs gæti útskýrt brottför Jensen Huang
HN +1 heimildir hn
Nýjar upplýsingar benda til þess að skyndileg brottför lengri tíma stjórnanda Nvidia, Jensen Huang, gæti tengst stórum smuglingsaðgerð sem felur um það bil 1,5 milljón AI‑miðaðra grafíkspörk. Í smáatriðum eru enn takmarkaðar upplýsingar, en ásakanin bendir á brot í framboðarkeðju Nvidia sem gæti hafa dregið úr trausti fjárfesta og samstarfsaðila. Ákvörðunin kemur vikur eftir fjölda frétta sem lýstu óstöðugleika í kringum brottvísun Huang. Þegar við skýrðum frá því 14. nóvember, hafði brottför hans skilið eftir „stórt gat“ í fjármagnsveitu AI‑fyrirtækja og vakti spurningar um stöðugleika $500 billiard dollara AI lánasamtaka. Fyrri umfjöllun tók einnig fram þrýsting á Nvidia til að styrkja varabúnaðarrammi viðvarandi virði fyrir það fjármagnstæki. Ef smuglaða GPUs voru í raun ætlaðar sama vistkerfi AI‑fyrirtækja sem Nvidia hefur fjármagnað, gæti atvikið útskýrt hvers vegna yfirstjórnun valdi að hætta í kjölfar vaxandi athugana. Áhrifin geta haft margvíslegar afleiðingar. Slíkt brot af þessari umfangi gæti gert Nvidia viðkvæmt fyrir reglugerðarrefsingum, skaðað orðsporið sem áreiðanlegur vélbúnaðarbirgi og óstöðugleikið fjármagnsárangurinn sem hefur stuðlað að nýlegum vexti greinarinnar. Það vekur einnig víðtækari áhyggjur um öryggi hágæða AI‑hluta á markaði þar sem eftirspurn er meiri en framboð. Áfram munu áhorfendur fylgjast með formlegum rannsóknum frá tollayfirvöldum og viðskiptayfirvöldum, öllum yfirlýsingum frá stjórnarþingi Nvidia, og hvernig atvikið gæti endurskapað stefnu fyrirtækisins varðandi vélbúnaðarbirgðir. Næstu nokkrar vikur gætu einnig sýnt hvort fjármagnstækið mun lifa af skandalið eða endurskipuleggjast, sem myndi hafa áhrif á fjármagnsflæði til AI‑fyrirtækja um alla Norðurlönd og út fyrir þau.

Allar dagsetningar