Choi Eun-soo: niet de prestatie maar het vertrouwen maakt AI concurrentieel

13 juni 2026

Choi Eun-soo, algemeen directeur van Intellivix, stelde op vrijdag 12 juni 2026 in de internationale conferentiehal van de Korea Chamber of Commerce and Industry in het Seoulse district Jung-gu dat het ontwerpen van betrouwbare AI een sleutelfactor wordt voor industriële concurrentiekracht. Tijdens de derde sessie van het Global AI Forum for Human Co-Prosperity 2026, over verantwoorde innovatie en het industrialiseren van betrouwbare AI, vatte hij het zo samen: de winnaars van het AI-tijdperk zijn niet de bedrijven die de meest autonome systemen bouwen, maar die de best controleerbare bouwen.

Van analyseren naar handelen

De AI-sector schuift volgens Choi op van analyserende AI naar handelende AI. Naarmate AI fabrieksinstallaties aanstuurt, toegangssystemen beheert en fysieke apparaten bedient, moet een aanpak die het risico al in het ontwerp meeneemt vanaf de vroegste fase worden ingebouwd. Bij analyserende AI konden fouten vaak achteraf worden hersteld, legde hij uit, maar bij handelende AI kan één enkele fout leiden tot industriële ongevallen of grootschalige rampen. Vertrouwen is daardoor geen ethische leuze meer, maar het fundament dat over industrieel overleven en succes beslist.

Als een storing de straat blokkeert

Om de gevolgen tastbaar te maken, verwees Choi naar een stroomonderbreking in San Francisco afgelopen december, waarbij robottaxi’s van Waymo aan kruispunten bleven stilstaan en het verkeer verstoorden. Hij noemde ook gevallen waarin zelfrijdende voertuigen vast kwamen te zitten in smalle straten omdat ze niet konden bepalen welk voertuig voorrang moest verlenen, met langdurige stilstand tot gevolg. AI is geen louter analytisch werktuig meer, stelde hij, maar een techniek die handelt in de fysieke wereld.

95 procent is niet veilig genoeg

Choi waarschuwde ervoor hoge nauwkeurigheid gelijk te stellen aan veiligheid. Wanneer een bedrijf zegt dat zijn AI voor 95 procent juist is, kan dat in een industriële omgeving nog altijd een kans van 5 procent op een catastrofale fout betekenen. De kernvraag is volgens hem of het systeem zich veilig kan stilleggen of de controle aan een mens kan overdragen wanneer een uitzonderlijke situatie zich voordoet. Om het risico van verzinsels te illustreren, verwees hij naar de rechtszaak rond de chatbot van Air Canada en naar Amerikaanse zaken waarin door AI verzonnen rechtspraak bij de rechtbank werd ingediend, wat de nood aan ondernemingsverantwoordelijkheid groter maakt.

Vijf beginselen en het T.R.U.S.T.-kader

Voor het bestuur van AI noemde Choi vijf kernbeginselen: ethiek, verantwoording, transparantie, verklaarbaarheid en controleerbaarheid. Een systeem dat op die vijf geen helder antwoord kan geven, is volgens hem niet klaar om in de fysieke wereld te worden ingezet. Daarnaast stelde hij het T.R.U.S.T.-kader voor, opgebouwd uit traceerbaarheid, risico in het ontwerp, gebruikerscontrole, tweede validatie en volledige verantwoording. Beslissingen met hoog risico, zoals het stilleggen van een productielijn of het beperken van fysieke toegang, moeten altijd menselijke goedkeuring vereisen, en zelfs als een systeem voor 99 procent zeker is van zijn keuze, moet een menselijke operator die kunnen overrulen. In zijn model van tweede validatie controleren twee onafhankelijke AI-systemen elkaars uitkomsten, zoals een specialist de diagnose van een arts in opleiding nakijkt, met een mens die uiteindelijk beslist.

De mens houdt het laatste woord

Met zijn sterke maakindustrie, halfgeleiderproductie en infrastructuur voor slimme steden zou Korea volgens Choi verder moeten gaan dan het uitvoeren van AI-techniek en de leiding moeten nemen bij het vastleggen van wereldwijde vertrouwensnormen. Echte AI-soevereiniteit eindigt niet bij het ontwikkelen van technologie, stelde hij, want de landen die de normen voor betrouwbare AI bepalen, leiden de industrie van de toekomst. De concurrentiekracht van AI ligt volgens hem niet in de techniek zelf, maar in de mate waarin ze betrouwbaar wordt ontworpen en bediend, en de uiteindelijke beslissingsbevoegdheid moet altijd bij mensen blijven. Tijdens de vragenronde noemde hij verklaarbaarheid en traceerbaarheid niet-onderhandelbare eisen en omschreef hij menselijke betrokkenheid bij de besluitvorming, het zogenoemde human-in-the-loop, als een noodzaak in plaats van een keuze.

Bronnen:

Cheonji Ilbo (천지일보), newscj.com

Global AI Forum for Human Co-Prosperity 2026 (GAFH 2026), Korea Chamber of Commerce and Industry, Seoul

Intellivix

Andy Vermaut +32499357495 (Als je een probleem hebt met de inhoud van een artikel, kan je me altijd mailen op info@indegazette.be – best zo weinig mogelijk mensen in cc zetten, want anders komt dit in de spamfilter terecht. Voor elk artikel geldt een recht op antwoord van betrokkenen tot 3 maanden na publicatie van het artikel. AI wordt gebruikt als redactioneel hulpmiddel. De journalist controleerde de inhoud en feiten.)