Waarom AI gereguleerd moet worden

Een groeiende wereldwijde beweging wil kunstmatige intelligentie (AI) reguleren.

Europese wetgevers hebben nieuwe wetten voorgesteld die AI strikte beperkingen zouden kunnen stellen. De wetgeving vordert, hoewel een recent onderzoek stelt vast dat de regelgeving de EU-economie de komende vijf jaar ongeveer 36 miljard dollar zou kunnen kosten. Sommige waarnemers stellen dat dergelijke maatregelen ook in de VS nodig zijn.

"Terwijl onze samenleving overgaat naar een digitaal ondersteunde omgeving, kan een niet-gereguleerde AI leiden tot misbruik, waardoor onze rechten op privacy en gegevensbescherming mogelijk worden ondermijnd." Joseph Nwankpa

, een professor in informatiesystemen aan de Miami University in Ohio, vertelde Lifewire in een e-mailinterview.

"Bovendien zou slecht gereguleerde AI inherente maatschappelijke vooroordelen kunnen versterken door misbruik te maken van onevenwichtigheden in de toegang tot informatie in verschillende segmenten van onze samenleving."

Kraken op AI

AI vormt veel bedreigingen, zeggen experts. Een groeiend punt van zorg is het gebruik van AI om verkeerde informatie te verspreiden door middel van diepe vervalsingen, Wael Abd Almageed, een professor aan de University of Southern California die AI en andere onderwerpen bestudeert, vertelde Lifewire in een e-mailinterview. Het kan ook leiden tot verzekeringsfraude door bewijsmateriaal te manipuleren en de veiligheid van kinderen in gevaar brengen door AI te gebruiken om valse identiteiten te genereren.

Europa loopt voor op de VS als het gaat om AI-wetgeving. De Wet kunstmatige intelligentie (AIA) is een wetsvoorstel dat onlangs is ingediend door de Europese Commissie, de uitvoerende arm van de Europese Unie.

Het zijn niet alleen Europese landen die getroffen zouden worden onder de EU-wetgeving. De AIA zou van toepassing zijn op elke aanbieder van AI wiens diensten of producten de EU-markt bereiken. Wetten zouden AI-tools reguleren die in alles worden gebruikt, van financiële diensten tot speelgoed.

De daad verbiedt AI-systemen die subliminale technieken gebruiken om "het gedrag van een persoon te manipuleren op een manier die psychologische of fysieke schade kan veroorzaken." Het verbiedt ook misbruik maken van kwetsbaarheden van een groep mensen vanwege hun leeftijd, fysieke of mentale handicap op een manier die psychologische of fysieke schade."

AI zou door wetshandhavers geen realtime biometrische identificatie op afstand in openbaar toegankelijke ruimten mogen bieden, behalve in specifieke scenario's voor openbare veiligheid.

Amerikaanse wetgevers zijn ook bezig met het in toom houden van AI. De Algoritmische rechtvaardigheid en online platformtransparantiewet van 2021 heeft tot doel het discriminerende gebruik van persoonlijke informatie door online platforms te verbieden en transparantie in algoritmische processen te eisen, zei Nwankpa.

"Net als veel andere soorten technologie, zal niet de technologie zelf worden gereguleerd, maar de manier waarop bedrijven en individuen de technologie gebruiken", Dara Tarkowski, een advocaat die gespecialiseerd is in het snijvlak van recht, technologie en sterk gereguleerde industrie, vertelde Lifewire in een e-mailinterview.

"Bepaalde toepassingen van AI zijn al gereguleerd. Herinner je je Apple-kaarten nog? Regelgevers onderzoeken bijvoorbeeld al de impact van AI op eerlijk krediet en kredietverlening."

Debat woedt over regelgeving

Niet iedereen is het erover eens dat kunstmatige intelligentie gereguleerd moet worden. AbdAlmageed zei dat regeringen geen wetten mogen aannemen die bepalen hoe AI wordt gebruikt en ontwikkeld.

"Ik ben echter van mening dat AI-wetenschappers en -ingenieurs een vorm van zelfcensuur moeten toepassen in termen van wat... algoritmen die ze ontwikkelen, hoe ze die evalueren en hoe ze deze algoritmen inzetten in echte producten", zegt hij toegevoegd.

AI is vooral een uitdaging vanuit het oogpunt van regelgeving en technologie, Jason Corso, directeur van de Stevens Instituut voor Kunstmatige Intelligentie, vertelde Lifewire in een e-mailinterview.

"We kunnen auto's zien; we kunnen de veiligheidsgordels zien,' merkte hij op. "AI opereert vooral achter de schermen. Het zijn gegevens; het is software; we kunnen het niet zien. Om de zaak nog erger te maken, worden veel producten geadverteerd als 'AI' terwijl dat niet het geval is, wat deels een probleem is van het slecht gedefinieerde AI-probleem en deels een probleem van overijverige marketing."

Ondanks de risico's van AI, stuit de wetgeving om de technologie te reguleren in de VS op hevige tegenstand. Tarkowski zei dat ze niet denkt dat de VS wetten zullen aannemen die zo breed zijn als die welke in Europa worden overwogen. Maar, zei ze, "ik verwacht dat Amerikaanse regelgevers richtlijnen en mogelijke wijzigingen in bestaande wetten zullen opnemen waar AI een impact kan hebben, zoals de Equal Credit Opportunity Act."