• TWEAK
• Software

Anden globale AI-sikkerhedstopmøde

Tesla-mogulen Elon Musk og OpenAI CEO Sam Altman vil tilbringe tid sammen med nogle af deres skarpeste kritikere under det kommende AI Sikkerhedstopmøde i Seoul. Mødet, der primært vil være virtuelt, er blevet co-hosted af Storbritannien og Sydkorea, og det forventes at finde sted seks måneder efter det første topmøde. 

Mens begejstringen omkring kunstig intelligences potentiale er aftaget, er der opstået spørgsmål om dens begrænsninger. Martha Bennett, senioranalytiker ved forsknings- og rådgivningsfirmaet Forrester, påpeger, at der er behov for nye tilgange i forhold til AI-sikkerhed. Spørgsmål om copyright-materiale, dataknapthed og miljøpåvirkning ser også ud til at være for komplekst til at blive besvaret under dette topmøde. 

Selvom arrangørerne har lovet et topmøde af samme kaliber som det forrige, har flere af de vigtigste deltagerne takket nej til invitationen. Dette betyder dog ikke, at topmødet ikke vil være værdifuldt. I løbet af de sidste seks måneder har fokus ændret sig fra eksistentiel risiko til ressourcerne, der er nødvendige for at drive AI's udvikling. Dette inkluderer den enorme mængde data, der er nødvendig for at træne store sprogmodeller, og den elektricitet, der driver et stigende antal datacentre. 

Altman har endda foreslået, at fremtiden for AI afhænger af et energigennembrud. Men eksperter advarer om, at det måske ikke er den bedste tilgang. "Fejlen ved at give teknologien så høj en forventning er uundgåelig," siger Professor Jack Stilgoe fra University College London. Selvom nogle nøglespillere ikke vil være til stede, forventes topmødet stadig at være et vigtigt skridt fremad. 

"AI Seoul Summit vil bygge videre på momentet fra Bletchley Park og nå yderligere fremskridt inden for AI-sikkerhed, innovation og inklusion," siger en talsperson fra den britiske regering.