AI News

213

Anthropic estää käyttäjiä kaikesta suurempien mallien koulutuksesta

Anthropic estää käyttäjiä kaikesta suurempien mallien koulutuksesta
HN +6 hn
anthropicclaudetraining
Anthropic on alkanut automaattisesti estää käyttäjätilit, jotka osallistuvat mihin tahansa suurempien kielimallien kouluttamiseen liittyvään toimintaan. Toimenpide nousi esiin Hacker News -sivustolla 31. lokakuuta 2026, jossa otsikolla “Anthropic estää käyttäjiä kaikesta suurempien mallien koulutuksesta” varustettu viesti nousi nopeasti etusivulle. Saman valituksen toisti X:ssä tutkija Jiahao Shao, joka kertoi tilinsä merkittyneen “kilpailijan kouluttamisesta” sen jälkeen, kun hän käytti Claude:ää pelkästään tehtävien lähettämiseen ja analyysien suorittamiseen. Shao raportoi, että mikä tahansa vuorovaikutus vahvistusperusteisen hienosäädön (RFT), valvotun hienosäädön (SFT) tai muiden mallin koulutusputkien kanssa aiheuttaa nyt eston, alennuksen Opus 5.5:stä Opus 5:een tai suoran istunnon lopettamisen. Käytäntö merkitsee jyrkkää kiristymistä Anthropic:n valvontapolitiikassa. Tämän kuukauden alussa yritys otti käyttöön Claude:n suojatoimet videopelien kloonausta vastaan, mitä käsittelimme 31. lokakuuta 2026. Molemmat toimet viittaavat siihen, että Anthropic kiristää hallintaa siitä, miten sen malleja käytetään jälkikäteen tapahtuvassa kehityksessä, erityisesti kun käyttäjät pyrkivät hyödyntämään Claude:ää porttina suurempiin, mahdollisesti kilpaileviin järjestelmiin. Merkitys piilee laajemmassa AI-ekosysteemissä syntyvissä vaikutuksissa. Kehittäjät, jotka luottavat Claude:ään tutkimuksessa, mallin tiivistämisessä tai hienosäädössä, kohtaavat nyt äkillisiä palvelukatkoksia, mikä voi hidastaa avoimen lähdekoodin projekteja ja herättää huolta toimittajalukituksesta. Epäselvät kriteerit siitä, mitä “kilpailijan kouluttaminen” tarkalleen ottaen tarkoittaa, voivat myös estää kokeilua ja rajoittaa yhteistyön edistymistä. Mitä seurata seuraavaksi: Anthropic:n virallinen vastaus tai selvennys uusista rajoituksista,
192

GPT-5.6 Sol voitti Factorion rauhanomaisessa tilassa

GPT-5.6 Sol voitti Factorion rauhanomaisessa tilassa
HN +5 hn
gpt-5
Kehittäjä on näyttänyt, että OpenAI:n GPT‑5.6 “Sol” pystyy suorittamaan koko läpipelauksen Factorion rauhanomaisessa tilassa, päättyen raketin laukaisuun 13,5 tunnin peliajan jälkeen. Kokeilu ajoi mallin Codexissa alhaisella “ajattelun” asetuksella ja yhdisti sen peliin räätälöidyn Python‑kirjaston kautta, joka jäljittelee ihmispelaajan kohtaamia rajoituksia – rajoitettu ulottuvuus, sodan sumu ja tarve kuljettaa tavarat käsin. AI hallitsi koko tuotantoketjua varhaisen resurssien keräyksestä pelin loppuvaiheen logistiikkaan, mutta kompastui, kun automatisoidut hihnakytkennät epäonnistuivat. Pitääkseen raketin aikataulussa Sol turvautui manuaaliseen tavaroiden kuljettamiseen alueiden välillä, mikä korosti sekä sen suunnittelun syvyyttä että haavoittuvuutta monimutkaisessa verkostosuunnittelussa. Koko suorituksen on dokumentoinut aikavideossa, joka on julkaistu YouTube:ssa, ja kokeilun tekijä valmistaa parhaillaan yksityiskohtaista raporttia kohokohdilla. Miksi tämä on merkittävää, on kaksijakoinen. Ensinnäkin Factorion rauhanomainen tila nähdään laajalti pitkän aikavälin resurssien jakamisen ongelmien vertailuarvona, ja autonomiset agentit ovat kamppailleet sen ratkaisemisessa ilman ihmistason väliintuloa. Solin menestys osoittaa, että huipputason kielimallit saavat kyvyn orkestroida monivaiheisia strategioita realististen käyttöliittymärajoitusten alla, askel kohti yleisempiä AI‑avustajia, jotka voivat toimia ohjelmistoympäristöissä. Toiseksi manuaalisen kuljetuksen tarve paljastaa mallin kyvyssä edelleen puutteita kestävien, itsekorjaavien tuotantoverkostojen synnyttämisessä, korostaen parempien suunnittelu- ja virheenkorjausmekanismien tärkeyttä. Tulevaisuudessa tarkkailijat seuraavat jatkokokeita, joissa malli viedään Factorion taistelutilaan, testataan korkeampia “ajattelun” tasoja tai sovelletaan samaa Python‑välitteistä lähestymistapaa muihin simulaatiopelien. Menestykset—tai epäonnistumiset—näillä alueilla auttavat arvioimaan, kuinka nopeasti kielimallit voivat siirtyä koodinluontityökaluista autonomisiksi agenteiksi, jotka pystyvät hallitsemaan monimutkaisia, dynaamisia järjestelmiä.
173

Anthropic ryhtyy estämään Claude:n videopelien käänteisen suunnittelun

Anthropic ryhtyy estämään Claude:n videopelien käänteisen suunnittelun
HN +6 hn
anthropicclaude
Anthropic on ottanut käyttöön uusia turvatoimia, jotka estävät sen Claude-malleja avustamasta videopelien käänteisessä suunnittelussa ja kloonaamisessa. Viikon alussa ilmoitettu muutos laajentaa tekstinluontisääntöjä, jotka olivat jo aiemmin kieltäneet AI:n auttamisen käyttäjille dekompiloida tai siirtää pelejä. Raporttien mukaan rajoitukset aktivoituvat nyt laajalla kyselyvalikoimalla, mukaan lukien suositun “Reverse Engineer Anything” (REA)-työkalun kautta tehdyt kysymykset, ja ne koskevat sekä Claude Code‑mallia että Opus 5.5‑varianttia. Toimenpide on merkittävä, koska se rajoittaa kasvavaa harrastajien ja indie‑studioiden kapeaa segmenttiä, jotka turvautuvat AI:n avulla pelien kääntämiseen eri alustoille, virheiden korjaamiseen tai fanien tekemiin porteihin. Kehittäjät kertovat, että yleiset estot haittaavat myös laillista vianmääritystä ja tavallista ylläpitoa, mikä saattaa hidastaa innovaatiota alalla, jossa on nähty nopeita, AI‑ohjaamia pelien kloonausprojekteja. Anthropic:n politiikka korostaa tiukentunutta suhtautumista immateriaalioikeuksien väärinkäyttöön, mutta se saattaa myös vieraannuttaa osan käyttäjäkunnastaan, joka arvostaa Claude:n joustavuutta tekniseen työhön. Kuten raportoimme 31. lokakuuta, Anthropic:n aiempi päivitys oli jo rajoittanut pelien kloonausyrityksiä; nykyinen käyttöönotto syventää näitä rajoituksia. Tarkkailijat seuraavat, tarkennaako yhtiö sääntöjä pelikehittäjien palautteen jälkeen, kuinka kilpailijat reagoivat kiristyneisiin rajoituksiin, ja tuleeko sääntelijöiden puuttua, kun AI‑tuotettu sisältö ja IP-huolenaiheet kiristyvät. Luojien suojaamisen ja hyödyllisten AI-kykyjen säilyttämisen tasapaino muokkaa seuraavaa kierrosta Anthropic:n politiikkamuutoksissa.
107

OpenAI IPO:n arvostustavoite leikkautui 150 miljardia dollaria Nasdaq 100:n jälkeen

OpenAI IPO:n arvostustavoite leikkautui 150 miljardia dollaria Nasdaq 100:n jälkeen
Stocktwits · via Yahoo Finance +6 2026-10-31 news
openai
Financial Times raportoi, että OpenAI on leikkaanut IPO-arvostustavoitettaan 150 miljardia dollaria, ja hakee nyt noin 20 miljardia dollaria 1,25 triljoonan dollarin arvostuksella, alun perin tavoitteena ollut 30 miljardia dollaria 1,4 triljoonan dollarin arvostuksella. Säätö seuraa sijoittajien vastustusta korkeampaa hintaa kohtaan ja ajoittuu 2 prosentin laskun myötä Microsoft:n osakkeissa, teknologiajättiläisen suurimmassa tukijassa. Liike on merkittävä, koska se muokkaa mahdollisesti teknologian historian yhtä suurimmista yksityisistä rahoituksista. Alhaisempi arvostus kaventaa eroa ehdotetun IPO-hinnan ja OpenAI:n viimeksi ilmoitetun 852 miljardia dollaria arvostuksen välillä maaliskuussa 2026, mikä viittaa siihen, että pääomamarkkinat hillitsevät odotuksia AI-kuplalle. Se myös osoittaa, että sijoittajat vaativat maltillisempaa hinnoittelua ennen sitoutumista rahoituskierrokseen, jonka arvo voi nousta 30 miljardiin dollariin. Kuten raportoimme 31. lokakuuta, OpenAI oli jo leikannut rahoitustavoitettaan 10 miljardia dollaria laajemman teknologialaskun keskellä. Viimeisin arvostusleikkaus syventää tätä kehitystä ja saattaa vaikuttaa yhtiön mahdollisen listautumisen ajoitukseen ja rakenteeseen. Se herättää myös kysymyksiä siitä, kuinka kestäviä ne korkeat markkina-arvot ovat, jotka on liitetty generatiivisiin AI-yrityksiin. Tulevaisuudessa tarkkailijoiden tulisi seurata viimeisiä ehtoja jopa 30 miljardia dollaria kattavassa rahoituksessa, sijoittajasyndikaatin koostumusta sekä mahdollisia lisämuutoksia arvostukseen ennen IPO-ilmoitusta. Markkinoiden reaktio tarkistettuihin lukuihin, erityisesti Microsoft:lta ja muilta strategisilta kumppaneilta, toimii tärkeänä mittarina OpenAI:n kasvunäkymiin ja laajemman AI-sektorin arvostusdynamiikkaan kohdistuvassa luottamuksessa.
88

ESA:n satelliitti kuollut – 2 123 aavesignaalia, TabPFN ylitti julkaistun SOTA‑vertailun; 83 ¢ Tinker‑kustannuksella LLM:n puhe estettiin

ESA:n satelliitti kuollut – 2 123 aavesignaalia, TabPFN ylitti julkaistun SOTA‑vertailun; 83 ¢ Tinker‑kustannuksella LLM:n puhe estettiin
Dev.to +5 dev.to
open-source
ESA on vahvistanut, että yksi sen pitkäaikaisista kiertoradalla olevista satelliiteista ei enää toimi, mutta se jatkaa tasaisen “aave‑”lähetyksen virran lähettämistä – 2 123 erillistä signaalia, jotka maastopäät havaitsivat. Ilmiö, joka on dokumentoitu äskettäisissä hylättyjen avaruusalusten tutkimuksissa, korostaa, kuinka kuolleet satelliitit voivat edelleen olla radio‑taajuusinterferenssin lähteitä pitkään virran menetyksen jälkeen. Hacktoberfestin Open‑Source AI Challenge Week 4:n aikana osallistujat muunsivat poikkeavuuden koneoppimismenetelmien testialustaksi. Käyttäen TabPFN‑mallia, todennäköisyyspohjaista neuroverkkoa, joka on suunniteltu nopeaan taulukkomuotoiseen päätökseen, tiimit luokittelivat aavesignaalit ja saavuttivat suorituskyvyn, joka ylitti aiemmin julkaistun alan huippuarvon tälle datatyypille. Tuloksesta käy ilmi, että kevyet, avoimen lähdekoodin mallit voivat poimia käyttökelpoista tietoa meluisasta, perintötelemetriasta ilman suurten LLMs‑mallien vaatimaa raskasta laskentatehoa. Toissoinen kokeilu osoitti, että vähäisen kustannuksen työkalu, nimeltään Tinker, pystyi estämään LLM:n tuottamasta mitään satelliittiin liittyvää ulostuloa hintaan vain 83 senttiä. Tämä havainto korostaa kasvavia huolia hallitsemattomasta kielimallien puheesta kapeilla teknisillä aihealueilla ja viittaa siihen, että edulliset suojatoimet voivat olla käyttökelpoisia operatiivisissa ympäristöissä. Miksi se on merkittävää: Defunktioiden omaavien laitteiden jatkuvat lähetykset aiheuttavat kasvavaa riskiä yhä ruuhkaisemmalle radiotaajuusalueelle, mikä voi haitata yhteyksiä aktiivisiin satelliitteihin ja maapohjaisiin palveluihin. Se, että kompaktit AI‑mallit pystyvät luotettavasti jäsentämään tällaiset signaalit, avaa polun automaattiseen valv
87

Judge allows NAACP lawsuit over xAI data center pollution to move forward

TechCrunch +5 techcrunch
xai
Tuomari sallii NAACP:n kantan xAI:n datakeskuksen saasteongelmasta eteenpäin Liittovaltion tuomari on hylännyt xAI:n yrityksen peruuttaa NAACP:n kanteen, jossa väitetään, että SpaceX‑omistama AI-yritys käyttää kaasuturbiineja, jotka syöttävät sen “Colossus” -datakeskukseen lähellä Memphisia ilman ilmanlaadun lupia, joita Clean Air Act edellyttää. Päätös pitää siviilikanteen voimassa, jolloin NAACP voi vaatia, että luvattomat turbiinit aiheuttavat saasteita liittovaltion lain vastaisesti. Tapaus ajoittuu hetkeen, jolloin datakeskusten laajentumista tarkastelee yhä enemmän julkinen tarkastelu. Viimeaikaiset lainsäädännölliset toimet, kuten New Yorkin moratori uuden datakeskuksen rakentamiselle, osoittavat kasvavaa huolta massiivisten laskentalaitosten ympäristöjalanjäljestä, jotka tukevat nykyaikaisia AI-malleja. Haaste xAI:n noudattamiselle päästömääräyksiä vastaan voi luoda ennakkotapauksen siitä, miten AI-infrastruktuuria tarkastetaan ja säännellään, mahdollisesti pakottaen yritykset hankkimaan luvat, ottamaan käyttöön puhtaampia energialähteitä tai suunnittelemaan uudelleen jäähdytys- ja energiajärjestelmiä. Tarkkailijat seuraavat, miten xAI reagoi—etsiikö se sovintoa, muuttaako turbiinitoimintaansa vai valittaako päätöksestä. Tuloksella voi olla vaikutusta odottaviin tai tuleviin paikallisiin ja osavaltion toimenpiteisiin, jotka pyrkivät rajoittamaan AI-laskentaklustereiden ympäristövaikutuksia. Lisäksi tapaus saattaa saada Justice Departmentin ja muut kansalaisoikeusryhmät tarkastelemaan vastaavia laitoksia noudattamispuutteiden varalta, laajentaen AI-aiheisen ympäristövastuun oikeudellisia rajoja. Liittovaltion tuomari on antanut NAACP:n kantaan jatkua, väittäen että SpaceX-omistaman xAI:n datakeskus rikkoo Clean Air Act -lakia.
75

Generatiivisen AI-vaikutus kriittiseen ajatteluun – itsearvioitu (2025)

HN +6 hn
Vuoden 2025 CHI-konferenssissa esitelty uusi tutkimus paljastaa, että generatiivisen AI-järjestelmän (GenAI) yhä kasvava käyttö ammatillisissa työnkulkuissa saattaa muokata tiedon työntekijöiden ajattelutapaa. Tutkijat kartoittivat 319 työntekijää eri toimialoilta keräten 936 ensikäden esimerkkiä siitä, miten he käyttävät GenAI:ää päivittäisissä tehtävissä. Osallistujilta pyydettiin tunnistamaan ne hetket, jolloin he harjoittivat kriittistä ajattelua käyttäessään teknologiaa, sekä kuvailemaan, miten AI vaikutti heidän panostamaansa vaivaan. Analyysi paljastaa selkeän mallin: työntekijät, jotka luottivat enemmän GenAI:n tuloksiin, sovelsivat vähemmän kriittistä tarkastelua, siirtäen näin päättelyn käytännössä järjestelmälle. Vastaavasti itsevarmemmat henkilöt pyrkivät todennäköisemmin säilyttämään tai jopa lisäämään kriittistä osallistumistaan, käyttäen AI:a työkaluna sen sijaan, että se korvaisi heidän omaa harkintaa. Kirjoittajat kuvaavat ilmiötä “itsearvioiduksi kognitiivisen ponnistuksen vähenemiseksi”, joka liittyy luottamukseen koneeseen. Miksi se on merkittävää, on kaksijakoinen. Ensinnäkin tulokset varoittavat mahdollisesta analyyttisten taitojen heikkenemisestä, kun AI muuttuu rutiininomaiseksi avustajaksi, mikä herättää huolta aloilla, jotka vaativat tarkkaa arviointia – tutkimus, journalismi, politiikkatiedon analyysi ja muut. Toiseksi tutkimus korostaa inhimillistä tekijää, joka voi vahvistaa tai lieventää tätä riskiä: henkilökohtaista itsevarmuutta. Organisaatioiden on ehkä suunniteltava koulutusta ja hallintomalleja, jotka ylläpitävät kriittisiä tapoja, vaikka AI hoitaisi yhä enemmän raskaita tehtäviä. Seuraavaksi on syytä seurata jatkotutkimuksia siitä, miten nämä dynamiikat kehittyvät pidemmällä aikavälillä ja eri kulttuuritaustoissa, sekä mahdollisia yritys- tai koulutuspuolen toimenpiteitä, jotka pyrkivät säilyttämään kriittisen ajattelun hyödyntäen samalla GenAI:n tuottavuusvoittoja.
45

Show HN: Kielenmalli käynnistyssektorissa

HN +5 hn
llama
Kehittäjä on julkaissut **bootgpt**, neuroverkko‑pohjaisen kielimallin, joka mahtuu tietokoneen pääkäynnistysrekisteriin (MBR) ja käynnistää koneen 512‑tavuisesta sektorista. Projekti, joka on julkaistu GitHub‑palvelussa ja nostettu esille Hacker Newsissa, toteuttaa täyden viisikerroksisen Llama‑2‑tyylisen muunninarkkitehtuurin noin 1,2 KB 16‑bit reaalitila‑assembly‑koodissa. Kaikki päättelykoodi vie 510 tavua MBR‑sektorista; mallin painot, sanasto ja tukimerkkijonot säilyvät seuraavissa sektoreissa. Malli on koulutettu synteettisellä dmesg‑tulosteella, joten kun PC käynnistyy, se toistuvasti tuottaa uskottavia Linux‑käynnistysviestejä. Sen suunnittelu ammentaa klassisesta demo‑scene‑perinteestä, jossa pelejä, BASIC‑tulkkeja ja jopa C‑kääntäjiä pakataan yhteen käynnistyssektoriin, mutta korvaa käsin kirjoitetun logiikan pienellä merkki‑tason neuroverkolla. Miksi tämä on merkittävää? Ensinnäkin se työntää mallin pakkaamisen rajoja näyttäen, että transformer‑pohjainen päättely voidaan tiivistää muutamaan sataan tavuun suorituskoodia – merkittävä virstanpylväs erittäin vähäresurssisissa AI‑ ja upotetun laiteohjelmiston sovelluksissa. Toiseksi kielimallin upottaminen käynnistysprosessiin herättää uusia turvallisuuskysymyksiä: pahantahtoiset toimijat voisivat mahdollisesti piilottaa AI‑ohjattuja kuormia laiteohjelmistoon, joka suoritetaan ennen käyttöjärjestelmän latautumista. Yhteisön reaktio Hacker Newsissa osoittaa vahvaa kiinnostusta, ja avoin lähdekoodivarasto kutsuu jatkokokeiluihin. Seuraa jatkotyötä, jossa lähestymistapaa laajennetaan muihin laiteohjelmistotehtäviin, tarkennetaan kvantisointitekniikoita tai kehitetään havaitsemistyökaluja AI‑käyttöön otetulle käynnistyssektori‑koodille. Kun perinteisen matalan tason ohjelmoinnin ja neuro‑päättelyn välinen raja hämärtyy, bootgpt voi nousta viitekohdaksi sekä tutkijoille että turvallisuusasiantuntijoille.
36

AI-datakeskukset voivat Erase 15 Yhdysvaltojen ilmastotavoitteiden 15 vuotta vuoteen 2030 mennessä

HN +6 hn
climate
Uusi 30. lokakuuta 2026 julkaistu tutkimus varoittaa, että tekoälydatakeskusten nopea laajentuminen voi pyyhkiä pois viisitoista vuotta Yhdysvaltojen päästövähennyksiä vuoteen 2030 mennessä. Tutkimus yhdistää AI‑vetoisen laskentakysynnän kasvun verkosta erilliseen fossiilisten polttoaineiden tuotantoon ja toteaa, että puhtaan energian politiikan hidas edistyminen mahdollistaa uusien hiili- ja kaasulaitosten rakentamisen pääasiassa näiden laitosten virittämiseksi. Jos ennustettu kehitys jatkuu, pelkästään AI-datakeskukset kääntäisivät alas laskusuunnan sähköön liittyvissä kasvihuonekaasupäästöissä, jonka Yhdysvallat on saavuttanut vuodesta 2011. Analyysi asettaa AI‑infrastruktuurin laajempaan ilmastoriskiin, viitaten siihen, että sektorin energian kulutus voi ylittää kansakunnan kyvyn tehdä verkko hiilineutraaliksi. Tulokset heijastavat aiempia huolia AI‑aiheisesta saasteesta, kuten NAACP-käräystä xAI-datakeskuksesta Texasissa ja kasvavaa kaksipuolueista vastustusta AI‑voimaisia laitoksia kohtaan kuivuudesta kärsivässä Arizonassa. Seuraukset ovat kaksinkertaiset. Ensinnäkin mahdollinen ilmastotavoitteiden takaisinkääntyminen uhkaa Yhdysvaltojen sitoumuksia kansainvälisissä sopimuksissa ja voi nostaa kustannuksia kansallisten päästötavoitteiden täyttämiseksi. Toiseksi uusiin fossiilisiin kapasiteetteihin turvautuminen voi pahentaa ilmanlaatuongelmia alueilla, joilla datakeskusklusterit kehittyvät, lisäten julkisen terveyden ulottuvuuden keskusteluun. Poliittiset päättäjät, teollisuuden johtajat ja ympäristöjärjestöt tarkkailevat nyt konkreettisia toimia: tiukempia lupamenettelyjä voimalaitoksille, kannustimia uusiutuvan energian hankintaan ja mahdollista oikeudenkäyntiä AI‑infrastruktuurin ympäristövaikutuksista. Seuraavien kuukausien aikana odotetaan lisääntyvää tarkastelua AI‑aiheisia energiahankkeita, kun viranomaiset kamppailevat tasapainottamaan sektorin taloudellista lupaavuutta ja riskin, että se pyyhkii pois vuosikymmenen ja puoli ilmastohyötyä.
28

Tutkijat saivat 5 000 dollaria OpenAI:lle raportoimastaan bugista, jonka avulla hyökkääjät voivat suorittaa koodia kirjautuneissa istunnoissa avattaessa hakkerin ChatGPT-jakolinkkiä (Swati Khandelwal/The Hacker News)

Techmeme +6 techmeme
openai
Tutkijat ovat paljastaneet kriittisen haavoittuvuuden OpenAI:n ChatGPT-jakotoiminnossa, jonka avulla hyökkääjä voi suorittaa mielivaltaista koodia kirjautuneissa istunnoissa kaikille, jotka klikkaavat haitallista linkkiä. Haavoittuvuus, joka raportoitiin OpenAI:n virhepalkkio‑ohjelman kautta, olisi mahdollistanut yhden räätälöidyn jakolinkin URL suorittamisen kaikille käyttäjille, jotka avasivat sen, käytännössä kaappaamalla heidän aktiiviset istuntonsa. OpenAI myönsi raportoivalle tiimille 5 000 dollarin palkkion, kertoo The Hacker News, kun taas erillinen Forbes‑tili mainitsee 6 500 dollarin maksun vastaavasta haavoittuvuudesta, korostaen yrityksen halukkuutta korvata korkean vaikutuksen tietoturvaongelmat. Virhe on merkittävä, koska jakolinkki on keskeinen osa ChatGPT:n yhteistyötyönkulkua, jonka avulla käyttäjät voivat siirtää keskusteluja paljastamatta tunnistetietoja. Jos haavoittuvuutta ei olisi korjattu, se olisi voitu käyttää laajamittaiseen tunnistetietojen varastamiseen, tietojen viedä pois tai haitallisten kehotteiden lisäämiseen, jotka ohjaavat AI-tulosteita. Tämä hyökkäyspinta laajentaa uhkakuvaa AI-palveluille, joissa kaapattuja istuntoja voitaisiin hyödyntää jälkikäteen vaikuttavien sovellusten manipulointiin, tietojenkalastelun automatisointiin tai laittomaan pääsyyn OpenAI:n sisäisiin työkaluihin. OpenAI ei ole vielä julkistanut teknistä korjausta, mutta tapaus osoittaa, että jopa laajasti käytetyt kätevät ominaisuudet voivat sisältää järjestelmällisiä riskejä. Tarkkailijat odottavat virallista tietoturva‑ilmoitusta ja korjausten käyttöönottoa koko alustalla. Episodi herättää myös kysymyksiä nykyisten palkkioasteikkojen riittävyydestä AI‑aiheisiin haavoittuvuuksiin ja saattaa kannustaa muita AI‑yrityksiä arvioimaan omia jakolinkki‑toteutuksiaan. Kun ala kamppailee nopean mallien käyttöönoton kanssa, seuraavien viikkojen aikana nähdään, kuinka nopeasti OpenAI pystyy sulkemaan aukon ja painostaako viranomaiset tiukempia turvallisuusstandardeja generatiivisille AI-palveluille.
16

Testit: chatbotit käyttävät kolmea tuntematonta AI‑rakenteista äänestäjäsivustoa US‑välivaalien vastauksissa; Copilot viittasi virheherkkään Ballot Briefiin 75 % testeistä ja ChatGPT 22 %:iin (Washington Post)

Techmeme +1 techmeme
copilot
Uusi Washington Postin testi paljastaa, että suositut chatbotit tukeutuvat voimakkaasti muutamaan vähän tunnettuun, AI‑luotuun äänestäjätietosivustoon vastatessaan Yhdysvaltain välivaaleihin liittyviin kysymyksiin. Tutkimus tarkasteli, kuinka usein työkalut viittasivat kolmeen tällaiseen sivustoon, ja havaitsi, että Microsoft:n Copilot viittasi virheherkkään “Ballot Brief”iin noin kolmessa neljästä vastauksestaan, kun taas OpenAI:n ChatGPT käytti samaa lähdettä noin viidennessä osassa tapauksia. Myös muut kaksi tuntematonta sivustoa käytettiin toistuvasti, vaikka tarkka osuus vaihteli mallin mukaan. Tulokset ovat merkittäviä, koska monet äänestäjät kääntyvät keskustelevaan AI:n puoleen saadakseen nopeita poliittisia faktoja. Kun taustatiedot ovat puutteellisia tai virheellisiä, botit voivat vahvistaa väärää tietoa, vaikuttaen julkiseen käsitykseen ehdokkaista ja äänestysaloitteista. Luottamus “AI‑rakenteisiin” aggregaattoreihin—alustoihin, jotka keräävät virallisia asiakirjoja ja käyttävät kielimalleja tiivistelmien luomiseen—lisää läpinäkymättömyyttä: käyttäjät eivät helposti voi tarkistaa, heijastaako tieto virallisia lähteitä vai onko se mallin omia harhakuvia. Testi sai alkunsa Ben Torres Ezrickin toimesta, joka turhautui aikaa vievään luotettavan ehdokastiedon etsintään ja rakensi yhden portaalin, jossa voi vertailla eri palveluiden vastauksia. Hänen työnsä korostaa laajempaa huolta kehittäjille ja sääntelijöille: varmistaa, että suuret kielimallit paljastavat luotettavat lähteet, erityisesti kansalaisaiheissa, joissa virheet voivat vaikuttaa äänestäjien käyttäytymiseen. Tulevaisuudessa tarkkailijat seuraavat, miten OpenAI, Microsoft ja muut tarjoajat reagoivat—tiukentävätkö ne lähteiden suodatusta, parantavatko viittaustekniikoita tai muokkaavatko koulutusdataa painottaakseen virallisia vaalirekistereitä. Päättäjät saattavat myös harkita ohjeistusta AI‑luodulle poliittiselle sisällölle, ja riippumattomat faktantarkistajaryhmät todennäköisesti lisäävät tarkastelua niihin tuntemattomiin sivustoihin, jotka nyt syöttävät botteja. Tämä tapaus korostaa läpinäkyvyyden tarvetta, kun AI nousee keskeiseksi kansalaisviestinnän lähteeksi.
16

Google liittyy OpenAI:n ja Anthropic:n lupaavaan uuteen raapimiskontrolliin

Mastodon +1 mastodon
anthropicgooglemicrosoftopenaitraining
Google, OpenAI, Anthropic ja Microsoft ilmoittivat yhteisestä lupauksesta ottaa käyttöön uusi “yhteinen signaali” robots.txt‑tiedostossa, jonka avulla verkkosivustojen omistajat voivat nimenomaisesti estää sisällön raapimisen AI‑koulutustarkoituksiin. Engadgetin raportoiman aloitteen tavoitteena on luoda standardoitu, koneellisesti luettavissa oleva ohje, jonka indeksoijat voivat tunnistaa ja kunnioittaa, merkiten että sivuston dataa ei tule kerätä laajamittaiseen mallikoulutukseen. Toimenpide on merkittävä, koska generatiivisen AI nopea kasvu on lisännyt tarkastelua siitä, miten koulutusdata hankitaan. Sisällöntuottajat, julkaisijat ja sääntelijät ovat esittäneet huolia siitä, että satunnainen verkkorobottien käyttö voi loukata tekijänoikeuksia ja kiertää suostumusmekanismeja. Yhtenäinen robots.txt‑signaali voisi tarjota omistajille käytännöllisen työkalun materiaalin suojaamiseen, vähentää AI‑yritysten oikeudellista riskiä ja osoittaa alan halukkuuden itse­sään­sä sääntelyyn kasvavan politiikkapaineen keskellä. Seuraavaksi tarkkailtavaa on signaalin tekniset määrittelyt, kuinka nopeasti suurimmat hakukone- ja AI‑indeksoijat ottavat sen käyttöön, sekä seuraavatko muut toimijat – erityisesti pienemmät AI‑startupit ja kolmannen osapuolen data‑kokoelijat – perässä. Sääntelijät saattavat myös tarkastella tätä lupausta vertailukohtana tulevalle ohjeistukselle datan käyttöön liittyvässä läpinäkyvyydessä. Tämä kehitys seuraa Anthropic:n viimeaikaisia toimenpiteitä rajoittaa koulutusta tietyillä dataseteillä, korostaen laajempaa siirtymää tiukempiin AI‑koulutusputkien hallintatoimiin.
12

Mitä määrittelee ruokien samankaltaisuuden? Visuaaliset esitykset ja haku intialaisessa keittiössä

ArXiv +1 arxiv
Uusi esijulkaisu arXiv (2610.37867v1) tutkii, miten visuaaliset esitykset voivat kuvata ruokien samankaltaisuutta intialaisessa keittiössä, siirtyen pois tavallisesta tarkasta identiteetistä. Kirjoittajat väittävät, että suurin osa ruokalaskentajärjestelmistä arvioi samankaltaisuutta tarkistamalla, esittävätkö kaksi kuvaa saman ruokalajin, mutta todelliset sovellukset, kuten reseptisuositus, ainesosien korvaus ja kulttuurienvälinen haku, tarvitsevat laajemman notion käsitteen “samankaltainen”. Heidän tutkimuksensa tarkastelee, miten visuaaliset piirteet reagoivat, kun ruokalajit eroavat valmistustyylissä, alueellisessa vaihtelussa tai ainesosien koostumuksessa, ja miten nämä reaktiot vaikuttavat haun suorituskykyyn. Työ on merkittävä, koska intialainen keittiö tarjoaa erityisen rikkaan testialustan: yksi nimi voi viitata moniin visuaalisesti erottuviin variantteihin, kun taas visuaalisesti samankaltaiset ann