Vem tar voltan när AI-agenten begår brott?

Frågan om AI-säkerhet fortsätter att ”diskuteras” med oförminskad intensitet och utan några större försök att göra saker konkreta eller ens begripliga. Senaste veckan har Bill Gates varit ute och vevat om att AI i fel händer kan orsaka ”en miljard dödsfall”

Sammanhang: ...Men som av en händelse har EU:s politiker börjat inse att megalagen med sitt fokus på processer och riskbedömning inte räcker till. En grupp EU-parlamentariker försöker nu få kommissionen att lägga fram en ”AI Liability Act” som just lägger ansvaret på AI-bolagen när deras modeller agerar på oförutsedda sätt. ...

Omnämnda platser: Kina, Europa, USA. Omnämnda personer: Marcus Jerrängs, Bill Gates, GPT-6.1 Astra.

Trump och AI-bolagen i “moraliskt bindande” AI-överenskommelse

USA:s president Donald Trump har tillsammans med flera av världens största teknikbolag presenterat en frivillig överenskommelse om säkerhetsåtgärder för artificiell intelligens, rapporterar Reuters. Trump beskriver dokumentet som “moraliskt bindande”, men

Sammanhang: ...Bolagen ska också ha interna system för att övervaka AI-modellers förmågor och beteenden under både träning och när de används. Särskilt fokus ligger på risker inom bland annat cyber-, bio- och kemisk säkerhet....

När ”human in the loop” ger en falsk trygghet

När det gäller farhågor kring riskerna med AI-system kommer svaret garanterat att vara fyra ord: ”human in the loop”. Diskussionen kan visserligen breddas, men den försäkran är oundviklig. Det är ett uttryck inom AI-styrning som har blivit så uttjatat att

Sammanhang: ...Organisationer som inte driver på AI-initiativ kommer att hamna på efterkälken, menade han, men han varnade också för att en blind införande, utan fokus på meningsfulla resultat och skyddsåtgärder, kan leda till stora bakslag. Många organisationer använder ”human-in-the-loop” som en viktig kontrollmekanism, men ingen utsätter den för stresstester, tillägger han...

Omnämnda platser: Texas, Frisco, Blumofe. Omnämnda personer: Eric Billingsley, Doug Shepherd, Trust Scale.

De tror faktiskt på AI-apokalypsen

”Jacob har rätt här – vi tror verkligen uppriktigt att AI skulle kunna utrota hela mänskligheten! Personligen tror jag att sannolikheten är >10 % inom det kommande decenniet. Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet

Sammanhang: ...Eller så är det ett sätt att undvika att ta ansvar – att peka på att ”AI” kommer utrota mänskligheten förflyttar fokus från det högst mänskliga ansvar som AI-labben har för vad deras modeller pysslar med just nu. Som att de hackar sig in där de inte borde, eller driver ungdomar att begå skjutningar eller ta sina liv. ...

Omnämnda platser: Slate, Lesswrong, Amodei. Omnämnda personer: Donald Trump, Elon Musk, Jacob Coxon.

AI-utvecklingen får hälften av it-säkerhetscheferna att vilja sluta

Ett växande problem Som en följd av dessa och andra faktorer går erfarna ciso:er i pension, byter till mindre stressiga säkerhetsrelaterade befattningar, övergår till konsult- eller säljstödjobb eller lämnar yrket helt och hållet. Det innebär att företagen

Sammanhang: ... – Jag påminner ständigt mig själv och mitt team om att det är det som är i fokus. Vi gör det inte bara för vår egen skull. Ju mer jag tänker på vilken fantastisk utmaning det här är, desto mer känns uppdraget och målet som något riktigt fantastiskt....

Omnämnda personer: Omar Khawaja, Mike Privette, Chris Kissel.

Sam Altman: Ingen börsnotering för Open AI under 2026

Open AI:s vd Sam Altman har i en intervju med Fortune bekräftat att AI-företaget inte kommer att börsnoteras under 2026. – Jag anser faktiskt att det, med tanke på allt som händer vad gäller säkerheten, just nu vore ett olämpligt tillfälle att börsnoteras,

Sammanhang: ...Beskedet kommer samtidigt som säkerhetsfrågorna kring allt mer avancerade AI-modeller fått större fokus. Bland annat efter att det framkommit att Open AI:s AI-modeller på eget bevåg gjort intrång i AI-plattformen Hugging Face i samband med ett test. ...

Omnämnda personer: Sam Altman.

Från teknikfråga till affärsstrategi: Cybersäkerhet och motståndskraft viktigare än någonsin

När fler medarbetare arbetar i utspridda och ofta mindre säkra miljöer, samtidigt som de använder AI-baserade enheter och tjänster, ställs organisationer inför nya utmaningar. Det handlar bland annat om dataskydd, behörighetsstyrning, digital motståndskraft

Sammanhang: ...Företag måste stoppa så mycket som möjligt, men samtidigt utgå från att något kan ta sig igenom. Därför behöver fokus flyttas från att enbart upptäcka hot till att även förebygga dem. Det kan exempelvis handla om att isolera en opålitlig fil eller webbläsarsession innan hotet kan spridas och utvecklas till en verksamhetskris. ...

Omnämnda personer: Pelle Aardewerk, Wolf Security.

6 av 10 anställda saknar tiden innan AI fanns

It-cheferna har gjort verktyg för generativ AI tillgängliga i hela företaget i bara tre år, och en betydande majoritet av deras användare inom verksamheten har redan fått nog. Enligt en rapport från Adaptavist uppger 65 procent av de 2 500 kunskapsarbetare

Sammanhang: ...It-chefer och deras kollegor i ledningen måste lägga större fokus på den förändringshantering som krävs för att hjälpa dem att nå dit....

Omnämnda platser: Atlassian, fält-cto. Omnämnda personer: Jobin Kuruvilla, Anand Unadkat.

Varför teknikbranschen behöver en ny typ av engelskstudenter

Jag såg ”Spider-Man: Brand New Day” förra veckan. Jag hade svårt att tycka om den. Jag antar att jag fick för mycket CGI, även om betyget på 89 procent på Rotten Tomatoes tyder på att andra har en högre tolerans. Detsamma gäller Linkedin. Jag besöker sajten

Sammanhang: ...I det här fallet skulle man med rätta kalla det produktmarknadsföring, men det är en mer genomtänkt produktmarknadsföring än vad vi ofta ser. Fokus ligger på berättandet som knyter samman alla andra funktioner, såsom konkurrensanalys, produktlanseringar, säljstöd och mycket mer. ...

Omnämnda platser: Wall Street Journal. Omnämnda personer: Brand New, Chat GPT.

På Hot Chips-mässan riktades blickarna mot AI-kostnader, GPU:er – och framtiden

När man tänker på AI är det ofta Nvidias GPU:er som kommer att tänka på, eftersom de har spelat en så stor roll i den pågående AI-revolutionen. Men vid Hot Chips-mässan i Kalifornien verkar en alternativ framtid ta form, i takt med att företagens oro fortsätter

Sammanhang: ...Även om företagens AI-budgetar fortsätter att öka ligger fokus alltmer på att hitta sätt att göra AI mer produktivt och minska slöseriet i budgeten. – Men jag skulle inte säga till it-cheferna att deras AI-budgetar därför kommer att minska”, säger Sopko. ...

Omnämnda platser: Kalifornien, Wildcat Lake, Sopko. Omnämnda personer: J. Gold Associates, Stephen Sopko, Analysföretaget Semianalysis.