Nyt fokus: Faren ved AI, droner og andre robotter

Af Dorte Toft 0

Blot et varsel om, at jeg i den kommende tid vil have størst fokus på den fremtid, vi allerede nu skimter. En fremtid, hvor der kan opnås meget ved hjælp af allernyeste teknologi, men hvor risici også vokser drastisk.

Jeg vil kigge på autonome systemer, altså systemer, der kan agere på egen hånd, om udelukkende softwarebaseret eller også hardwarebaseret, såsom droner og robotter.

I dette fokus ligger også en stor opmærksomhed over for kunstig intelligens, altså AI (Artificial Intelligence). Selv hvor intentionen er den bedste med AI, der i en vis grad oplærer sig selv efter indledende, ekstrem grundig træning, kan det alligevel gå helt galt.

Fra brætspil til hadefuld Twitterbot

Perspektivet i AI, så vi senest, da Googles AlphaGo-system slog den sydkoreanske mester i brætspillet Go med 4-1. Det udløste det store overskrifter, fordi Go er næsten umuligt at “sætte i system” i modsætning til f.eks. skak, og ingen havde forventet, at AI allerede nu var kommet så langt. (Artiklen “Is AlphaGo really such a big deal?” rummer en virkelig god beretning om, hvordan AI-netværket blev trænet og trænede sig selv – tilmed så ordet “intution” pipper lidt frem).

Men Microsoft leverede samtidig eksemplet på, hvor skidt det kan gå med AI. Da Microsoft slap sin chatrobot Tay løs på Twitter havde den på under 24 timer udviklet sig til en bot, der hævdede at Hitler havde ret, hvad angår jøder, at feminister bare skal slås ihjel og brændes i helvede og mere i samme boldgade.

Microsoft, der ellers med succes har kørt en AI-baseret chatrobot på det kinesiske marked, havde efterfølgende travlt med at undskylde. Softwaregiganten genlancerede Tay ved en fejl, og det gik igen galt, men på anden vis. Wikipedia har en god oversigt over forløbet.

Den tunge brug og det tunge misbrug

Hvad jeg vil kigge på, har dog intet med spil eller chat at gøre, men erhvervslivets brug af den nye teknologi, politiets, militærets og terroristernes.

Selvfølgelig handler det også om fordele ved de nye teknologier, men der arbejdes intensivt på at få elimineret eller i hvert fald begrænset de dystre perspektiver, som kan udløses, om af mennesker eller tilfældigheder, og her halter vi bagefter.

Faktisk er der AI-forskere, dog en minoritet, der mener, at AI kan lede til en eksistentiel katastofe for menneskeheden. De forskere, og andre, der har udtrykt samme frygt, vil jeg også fortælle nærmere om i serien. Ligeledes vil jeg komme ind over, om robotter og AI – som tidligere teknologier har gjort det – vil skabe flere job end der tabes, eller om “plejer er død”.

Min dækning af emnerne er til dels baseret på en FN-initieret konference om AI og autonome systemer. Den blev afholdt i Haag, og jeg deltog for egen regning.

——————–

2. artikel i serien er Udfordring: Løbske droner og små dræberdroner

3. artikel er: Jura og teknik spænder ben for nummerplader til droner.

Kommentarer er lukket.