"Sosial orden kan kollapse" i AI-æraen, sier to topp japanske selskaper

Japans største telekommunikasjonsselskap og landets største avis ba om rask lovgivning for å begrense generativ kunstig intelligens, og sa at demokrati og sosial orden kan kollapse hvis AI ikke kontrolleres. De japanske selskapenes manifest, mens de peker på de potensielle fordelene med generativ AI for å forbedre produktiviteten, hadde et generelt skeptisk syn på teknologien. Uten å gi detaljer, sa den at AI-verktøy allerede har begynt å skade menneskeverdet fordi verktøyene noen ganger er designet for å fange brukernes oppmerksomhet uten hensyn til moral eller nøyaktighet. Med mindre AI er behersket, "i verste fall kan demokrati og sosial orden kollapse, noe som resulterer i kriger," heter det i manifestet. Den sa at Japan bør ta tiltak umiddelbart som svar, inkludert lover for å beskytte valg og nasjonal sikkerhet mot misbruk av generativ AI. Et globalt fremstøt er i gang for å regulere kunstig intelligens, med EU i spissen. EUs nye lov oppfordrer produsenter av de kraftigste AI-modellene til å sette dem gjennom sikkerhetsevalueringer og varsle regulatorer om alvorlige hendelser. Det er også satt til å forby bruken av følelsesgjenkjenning AI på skoler og arbeidsplasser. Biden-administrasjonen trapper også opp tilsynet, og påkalte føderale nødmyndigheter i oktober i fjor for å tvinge store AI-selskaper til å varsle regjeringen når de utvikler systemer som utgjør en alvorlig ris…  iko for nasjonal sikkerhet. USA, Storbritannia og Japan har hver opprettet myndighetsledede AI-sikkerhetsinstitutter for å hjelpe med å utvikle AI-retningslinjer. Likevel sliter regjeringer i demokratiske nasjoner med å finne ut hvordan de skal regulere AI-drevet tale, for eksempel aktivitet på sosiale medier, gitt konstitusjonell og annen beskyttelse for ytringsfrihet. NTT og Yomiuri sa at manifestet deres var motivert av bekymring over offentlig diskurs. De to selskapene er blant Japans mest innflytelsesrike innen politikk. Regjeringen eier fortsatt omtrent en tredjedel av NTT, tidligere det statskontrollerte telefonmonopolet. Yomiuri Shimbun, som har et morgenopplag på rundt seks millioner eksemplarer ifølge industritall, er Japans mest leste avis. Under avdøde statsminister Shinzo Abe og hans etterfølgere har avisens konservative redaksjonelle linje vært innflytelsesrik for å presse det regjerende liberale demokratiske partiet til å utvide militærutgifter og utdype nasjonens allianse med USA. De to selskapene sa at deres ledere har undersøkt virkningen av generativ AI siden i fjor i en studiegruppe ledet av forskere fra Keio University.