Heeft u wel eens het gevoel dat de technologie ons voorbij snelt? Terwijl wij in de Benelux nog druk bezig zijn met het uitzoeken van de nieuwste ChatGPT-functies, heeft Zuid-Korea zojuist een baanbrekende stap gezet: ze zijn het eerste land ter wereld met directe AI-regulering. Dit is geen toekomstmuziek meer; dit gebeurt nu en het kan de manier waarop wij met algoritmes omgaan fundamenteel veranderen. Het is cruciaal om te begrijpen wat deze vroege regels betekenen voor uw veiligheid en voor de innovatie in het algemeen, want de implementatie is wezenlijk anders dan wat Brussel van plan is.
De race om regulering: Zuid-Korea versus de rest
Het is een fascinerende wereldwijde race. De Europese Unie kreeg veel media-aandacht toen zij in juni 2024 hun AI Act goedkeurden. Dat was een primeur, dacht iedereen. Maar er is een belangrijk verschil:
- De EU-regels worden geleidelijk ingevoerd en zijn pas volledig van kracht rond 2027.
- In Zuid-Korea zijn de wetten per direct van kracht gegaan.
Dit toont aan dat Seoul de behoefte aan vertrouwen en veiligheid in AI veel dringender voelde dan menig ander land. De VS kiezen ondertussen voor een veel relaxtere aanpak, bang om innovatie te smoren. China doet ook mee, maar stelt een eigen coördinatieorgaan voor.
Wat betekent dit concreet voor uw dagelijkse digitale leven?
De Zuid-Koreaanse wetgeving richt zich vooral op zogenaamde ‘high-performance’ AI-systemen. Dit zijn geen simpele apps; dit zijn systemen die invloed hebben op cruciale sectoren.
Verplichte menselijke controle
In sectoren waar een fout catastrofaal kan zijn, moet een mens altijd de eindverantwoordelijkheid dragen. Denk hierbij aan:
- Nucleaire veiligheid en drinkwatervoorziening.
- Financiële diensten, zoals het berekenen van uw hypotheekrente of kredietwaardigheid.
- Gezondheidszorg en transport.
Dit is de kern: de technologie mag de beslissing niet nemen; hij mag slechts adviseren. Geen algoritme bepaalt meer zonder menselijke review of u die lening krijgt.
Transparantie is het nieuwe goud
U kunt er binnenkort niet meer omheen: als een AI iets genereert, moet dit gemarkeerd worden. Dit geldt ook voor die overtuigende deepfakes die u op sociale media tegenkomt. Bedrijven moeten gebruikers vooraf informeren als ze zogenaamde ‘generatieve AI’ inzetten.
Als techbedrijf wilt u natuurlijk geen boetes. En die zijn er. Voor het niet correct labelen van AI-gegenereerde content loopt men risico op een straf van bijna 20.000 dollar (30 miljoen won). Dat is pittig, maar vergeleken met de boetes van de EU (die tot 7% van de wereldwijde omzet kunnen bedragen) lijken de Koreaanse sancties nog mild.
De tech-sector slaakt een zucht – en deelt kritiek
Het is geen geheim dat veel Zuid-Koreaanse tech-CEO’s bezorgd zijn. De Startup Alliance merkte op dat sommige formuleringen in de wet te vaag zijn. Het resultaat? Bedrijven kiezen liever voor de veilige, maar minder innovatieve route om risico’s te vermijden.
De president heeft de zorgen van het bedrijfsleven erkend. Hij riep op tot meer institutionele steun voor startups, zodat men het volledige potentieel kan benutten, mét oog voor de neveneffecten. Het Ministerie van Wetenschap werkt nu aan een steunplatform en zou zelfs de overgangsperiode willen verlengen als de bedrijven dat nodig hebben.
De grote vraag: Is er reden tot paniek?
Velen van ons herinneren zich de waarschuwingen van AI-grootheden vorig jaar, die spraken over existentieel risico—een risico dat vergelijkbaar is met pandemieën of kernoorlog. Sindsdien is de investering in AI alleen maar toegenomen; denk aan de $500 miljard die in de VS wordt gestoken in projecten als 'Stargate'.
Maar te midden van al deze hype waarschuwde Sundar Pichai van Alphabet slechts kort geleden al dat de AI-hausse "irrationele elementen" bevatte en dat de zeepbel zomaar kon barsten.
Zuid-Korea kiest blijkbaar voor de middenweg: volop innoveren, maar wel met duidelijke hekken eromheen. Terwijl wij in Nederland nog wachten op de landelijke TNO-richtlijnen over de inzet van een AI-assistent op kantoor, hebben zij al de belangrijkste knoppen vergrendeld.
Wat denkt u? Zijn de Zuid-Koreaanse regels de gouden standaard voor de rest van de wereld, of remmen ze de innovatie onnodig af? De discussie is nu echt begonnen.
