Twee senior amptenare van die Suid-Afrikaanse Departement van Kommunikasie is die fokus van 'n ondersoek na die gebruik van kunsmatige intelligensie (KI) wat hallusinasies in die teruggetrekte Konsep Nasionale Kunsmatige Intelligensiebeleid veroorsaak het. Die amptenare wat in die ondersoek sentraal staan, is Dumisani Sondlo, die departement se hoof van KI-beleid, en Mlindi Mashologu, adjunk-direkteur-generaal vir digitale samelewing en ekonomie. Dié onthulling kom van regeringsbronne wat deur die Sondagkoerant Rapport aangehaal word. Die departement het die beleid teruggetrek nadat 'n ondersoek deur News24 die vals verwysings, wat glo deur KI genereer is, blootgelê het. Dit het gelei tot 'n krisis binne die departement, met vrae oor die integriteit van regeringsdokumente en die betroubaarheid van die beleidsontwikkelingsprosesse. Die insident het die aandag gevestig op die groeiende uitdagings wat die opkoms van generatiewe KI vir regeringsinstellings inhou.
Amptenare se rol en agtergrond
Die amptenare wat in die ondersoek sentraal staan, is Dumisani Sondlo, die departement se hoof van KI-beleid, en Mlindi Mashologu, adjunk-direkteur-generaal vir digitale samelewing en ekonomie. Sondlo dien reeds sedert 2012 by die departement, wat hom 'n ervare figuur binne die organisasie maak. Mashologu is in 2020 aangestel en was sedertdien betrokke by sleutelprojekte. Beide amptenare het glo op sosiale media geplaas oor hul rolle in die ontwikkeling van die konsepbeleid, wat hul betrokkenheid by die dokument verder onderstreep. Hierdie openbare uitlatings kan moontlik 'n rol speel in die ondersoek na hul verantwoordelikheid vir die insluiting van die versinde bronne. Daar is aan Sondlo en Mashologu tot 29 April gegee om die insluiting van die versinde bronne in die beleid se verwysingslys te verduidelik, 'n kort sperdatum wat die dringendheid van die saak beklemtoon het.
Onttrekking en ondersoek van beleid
Die Minister van Kommunikasie, Solly Malatsi, het die betrokke beleid op 26 April onttrek te midde van groeiende kontroversie. Hierdie optrede het gevolg op die onthullings rakende die beleidsdokument se verwysings. Die besluit om die beleid terug te trek, was 'n direkte gevolg van 'n News24-ondersoek wat die vals verwysings blootgelê het, wat die kwessie tot die nasionale kollig gebring het.
Daar word sterk geglo dat die versinde aanhalings, wat tot die onttrekking gelei het, deur 'n generatiewe KI-instrument geproduseer is. Die aard van die foute en die konsekwentheid daarvan dui op die gebruik van outomatiese inhoudgenerering eerder as menslike oorsig of navorsing. Die teenwoordigheid van hierdie "hallusinasies" het ernstige vrae oor die akkuraatheid en integriteit van staatsdokumente laat ontstaan, en het 'n skerp lig gewerp op die behoefte aan strenger kontroleprosesse. Die gebruik van KI in beleidsontwikkeling, hoewel dit potensiaal vir doeltreffendheid inhou, bring ook nuwe risiko's mee wat deeglik bestuur moet word.
Die media-organisasie Article One het reeds ses van hierdie versinde bronne in die dokument uitgewys. Hierdie spesifieke vlagging het die aandag gevestig op die omvang van die probleem en die potensiële gevare van onkritiese aanvaarding van KI-gegenereerde inhoud in beleidsmaking. Die bevindinge het die departement verder onder druk geplaas om die saak deeglik te ondersoek en te verseker dat soortgelyke insidente in die toekoms voorkom word.
Minister se reaksie en implikasies
Op 30 April het departementele direkteur-generaal, Nonqubela Jordan-Dyani, bevestig dat twee amptenare voorlopig geskors is hangende die ondersoek. Hierdie stap is geneem ná die onthullings oor die gebruik van kunsmatige intelligensie wat hallusinasies in die Konsep Nasionale Kunsmatige Intelligensiebeleid veroorsaak het. Die skorsings van die amptenare, Dumisani Sondlo en Mlindi Mashologu, onderstreep die erns waarmee die departement die bewerings benader. Dit dui ook op die moontlike gevolge vir staatsamptenare wat nie die integriteit van regeringsdokumente handhaaf nie, en beklemtoon die belangrikheid van aanspreeklikheid. Die ondersoek sal bepaal of die amptenare se optrede die departement se beleidsontwikkelingsprosesse ondermyn het en of nalatigheid 'n rol gespeel het. Die besluit om die amptenare te skors, stuur 'n duidelike boodskap oor aanspreeklikheid binne die staatsdiens en die verwagting dat alle amptenare die hoogste standaarde van professionaliteit sal handhaaf. Die departement beoog om deeglik vas te stel hoe die versinde inligting in die beleidsdokument beland het en watter interne kontroles versuim het.
Gelyke geval by Binnelandse Sake
Dié Suid-Afrikaanse geval volg op 'n soortgelyke insident by die Departement van Binnelandse Sake. Daar is twee amptenare geskors nadat News24 bevind het dat meer as 100 versinde verwysings, wat waarskynlik deur kunsmatige intelligensie gegenereer is, in die Hersiene Witskrif oor Burgerskap, Immigrasie en Vlugtelinge ingesluit is. Die ontdekking van hierdie vals bronne het 'n deeglike ondersoek by Binnelandse Sake tot gevolg gehad en het vrae laat ontstaan oor die gebruik van KI in die opstel van staatsdokumente. Dit beklemtoon die groeiende uitdaging vir regeringsdepartemente om die akkuraatheid van inligting in beleidsdokumente te verseker, veral gegewe die opkoms van generatiewe KI-instrumente. Hierdie herhaalde voorvalle dui op 'n breër probleem binne die staatsdiens met betrekking tot die implementering en verifikasie van KI-gegenereerde inhoud, en die noodsaaklikheid vir die ontwikkeling van robuuste riglyne en protokolle vir die gebruik van sulke tegnologieë in sensitiewe beleidsareas.
