De amerikanske myndigheder har intensiveret kampen mod robocalls med en ny afgørelse, der forbyder brugen af AI-genererede stemmer i automatiserede opkald. beslutningen signalerer en skærpet indsats mod svindlere, der misbruger teknologi til bedrag og vildledning af vælgere. Federal Communications Commission (FCC) har fastslået, at stemmer skabt af kunstig intelligens, der anvendes i robot opkald, falder under definitionen af ‘kunstige’ stemmer, hvilket gør dem ulovlige efter de samme kriterier som forudindspillede beskeder ifølge Telephone Consumer Protection Act fra 1991.
FCC’s nye regel, som træder i kraft øjeblikkeligt, giver FCC mulighed for at pålægge bøder eller blokere tjenesteudbydere, der formidler disse opkald. Forbrugerne får også rettigheden til at sagsøge og potentielt indhente op til $1.500 i erstatning for hvert uønsket opkald. Beslutningen kommer i kølvandet på en undersøgelse af AI-genererede robot opkald i New Hampshire, som imiterede præsident Joe Bidens stemme for at afskrække folk fra at stemme i delstatens primærvalg.
Denne sag er særlig relevant i en tid, hvor sofistikerede AI-værktøjer bliver mere og mere udbredt i den amerikanske valgkamp og i resten af verden. Sidste år brugte flere valgkampagner AI-genereret lyd eller billeder, og nogle kandidater eksperimenterede med brug af AI-chatbots til at kommunikere med vælgerne. FCC’s handling understreger behovet for at lovgivning følger med den teknologiske udvikling for at beskytte forbrugerne og integriteten af valgprocessen.
Virksomheder, der bryder den nye lov, kan se frem til betydelige bøder – op til $23.000 per ulovligt opkald. Desuden har FCC tidligere anvendt forbrugerloven til at gribe ind over for de såkaldte robocals, der blander sig i valg, herunder ved at pålægge bøder på $5 millioner til to konservative hoaxers for falske advarsler til borgere i primært sorte områder om, at stemme via post kunne øge risikoen for anholdelse, gældsinddrivelse og tvungen vaccination.
For virksomheder betyder dette en øget opmærksomhed på overholdelse af regler og love, særligt når det gælder markedsføringskampagner, som anvender AI-teknologi. Det er afgørende at sikre sig, at brugen af AI foregår inden for lovens rammer, især for at undgå svindel og manipulation af forbrugerne.
