Över 200 ledande röster från vetenskap, politik och samhälle uppmanar FN att definiera tydliga röda linjer när det gäller utvecklingen av konstgjord intelligens. Överklagandet kommer från Nobelprisvinnare, tidigare statschefer och regering, samt pionjärer i AI -forskning – och anses redan vara den viktigaste uppmaningen för internationell reglering hittills.
Det är inte det första framstående initiativet som fokuserar på långsiktig kontroll av konstgjord intelligens. I mars 2023, till exempel, ”Paus Giant AI Experiments” -initiativ lanserades. Det var ett öppet brev som krävde att utbilda AI -system i minst sex månader. Det senaste initiativet gäller att hitta en global samförstånd om hur man hanterar AI.
Undertecknarna inkluderar Turing prisvinnare Geoffrey Hinton och Yoshua Bengio, historiker och bästsäljande författare Yuval Noah Harari, före detta colombianska presidenten Juan Manuel Santos och flera Nobels fredsprisvinnare. Deras mål? I slutet av 2026 bör det finnas internationellt bindande regler som kategoriskt utesluter vissa tillämpningar av AI – en riktigt snäv tidsram som understryker brådskan.
Röda linjer för AI: Dessa gränser behövs hårt!
Röda linjer uppmanas mot teknikens farligaste scenarier: självreplikerande system, autonoma vapen, användning av AI i kärnkommandostrukturer eller massspridning av manipulativ desinformation. ”Utan sådana gränser riskerar vi att AI förvandlas från en användbar teknik till ett existensiellt hot,” uttalade överklagandet.
Annalena Baerbock är ordförande för den 80: e sessionen i FN: s generalförsamling. / © Un Photo/ Loey Felipe
Tidpunkten är avsiktlig: Den här veckan kommer statschefer och regeringar att diskutera de mest pressande frågorna i världspolitiken vid FN: s generalförsamling i New York. Programmet inkluderar också lanseringen av ”Global Dialogue on AI Governance” den 25 september, ett informellt möte för att diskutera viktiga aspekter av inkluderande och ansvarsfull AI -styrning, enligt FN: s webbplats.
Med detta initiativ vill experter öka trycket för att placera AI -säkerheten på toppen av dagordningen. Huruvida de stora världsmakterna – över alla, USA under Donald Trump, Kina och Ryssland – är beredda att ingå bindande avtal emellertid ifrågasättande. Många länder strävar efter sina egna intressen, särskilt användningen av AI inom militären.
Ett initiativ till skillnad från någon annan
Ändå är överklagandet anmärkningsvärt: aldrig tidigare har så många framstående personligheter i stort sett överens om olika specialiseringar. En annan mycket viktig punkt att notera: Till skillnad från tidigare framställningar, som – som nämnts ovan – kallas för en paus i vidareutveckling av särskilt kraftfulla AI -modeller, är initiativet inte baserat på en tidsgräns. Istället är syftet att få permanenta förbud mot specifika högriskapplikationer.
- Läs också: På väg till ett två-nivå AI-samhälle
Debatten är av största vikt för mänskligheten. När allt kommer omkring är AI inte längre bara chatbots eller digitala assistenter, men kan också påverka demokrati, säkerhet och global stabilitet. Den ”röda flaggan” för vissa applikationer är avsedd att förhindra att tekniken kommer ur kontroll – innan irreversibla konsekvenser inträffar.
Hur tycker du om det här? Kan du föreställa dig att länder i världen faktiskt håller med om en förnuftig kompromiss om ämnet konstgjord intelligens?
Via: Rest
Källa:
Röda linjer
