Radar · Integritet

Altman: Ny AI kommer att skapa obehag

Sam Altman.

Nästa generation av populära AI-tjänster kommer ge svar baserade på dina åsikter. Det säger Sam Altman, vd för Open AI, som även påpekar att användare i olika länder kan komma att få olika svar.

I en intervju med den amerikanska nyhetssajten Axios säger Altman att framtidens Chat GPT kommer att vara mycket mer individuellt anpassad till olika personers inställningar, tankar och värderingar – och därmed ge olika svar på samma fråga.

– Det kommer att vara obehagligt för många.

Det ska finnas gränser för vad tjänsterna ska tillåta och exemplifierar med ”om ett land säger att alla homosexuella ska skjutas”.

– Det är självklart över gränsen, säger han och fortsätter:

– Men det finns förmodligen andra saker som jag personligen inte håller med om, men som personer i andra kulturer tycker. För oss som utvecklare kan det komma att kännas obekvämt hur våra produkter används.

Altman och Open AI jobbar för tillfället med GPT-5, nästa version av motorn varpå Chat GPT är byggd. Exakt vad en kommande version av tjänsten kommer att erbjuda för möjligheter till personliga inställningar är inte klart. Men enligt Altman lär inställningarna påverka svaren som genereras i större utsträckning än i vilket land användaren ställer frågan.

– Det kommer att vara olika svar för personer med olika värderingar. Det här med olika länder tror jag kommer vara mindre viktigt.

2024 är ett viktigt valår i stora delar av världen. Altman säger att han är ”nervös” inför AI:s möjliga påverkan på valresultat. För Axios påpekar han samtidigt att Open AI har stärkt sitt arbete för att motverka desinformation, dock utan att specificera hur många i företaget som jobbar med frågan.

Prenumerera gratis på vårt
NYHETSBREV
Prenumerera gratis på vårt
NYHETSBREV
Prenumerera gratis på vårt
NYHETSBREV
Prenumerera gratis på vårt
NYHETSBREV