Formative lanceert tools die worden aangestuurd door ChatGPT's Artificial Intelligence (AI). Deze platformintegraties hebben zoveel potentieel, zowel om de grenzen te verleggen van wat Formative kan doen als om docenten en studenten waardevolle tijd terug te geven in de klas. Op Formative begrijpen we echter ook dat grote kracht een grote verantwoordelijkheid met zich meebrengt. Als u op Google zoekt naar AI of ChatGPT, vindt u waarschijnlijk artikelen over vooroordelen.

Aangezien AI-instrumenten worden "getraind" met behulp van het World Wide Web, is hun leervermogen beperkt tot wat online bestaat. Hoe uitgestrekt het internet ook is, veel van wat je vindt weerspiegelt een zeer beperkte demografie: voornamelijk mensen in de westerse wereld, terwijl we over de hele wereld een diversiteit aan gedachten, rassen, geslachten, geloofssystemen en sociaal-economische statussen hebben.

AI-instrumenten vertegenwoordigen deze brede perspectieven doorgaans niet. Wanneer dergelijke instrumenten voornamelijk van één bevolkingsgroep leren, leidt dit ertoe dat hun output dezelfde vooroordelen heeft ten aanzien van mensen met veel privileges. Bijvoorbeeld, zowel de DALL-E 2 als de Stable Diffusion fotogenererende tools geven bij de meeste vragen over mensen voornamelijk blanke mensen weer.

Toch streven de ontwikkelaars van deze programma's - en vele andere zoals deze - naar diversificatie van hun output. Het onderkennen en aanpakken van mogelijke vooroordelen - en het zorgvuldig onderzoeken van AI-resultaten op vooringenomenheid - helpt dergelijke gevallen te beperken. Formative streeft eraltijd naar deze zaken in het achterhoofd te houden bij het ontwikkelen van toepassingen voor AI.

Daarom hebben we vijf tips opgesteld om u te helpen vooroordelen te minimaliseren bij het gebruik van AI-geïntegreerde leermiddelen. De beste manier om problemen te voorkomen is immers om proactief te zijn, om er van tevoren over na te denken. Bovendien verhoogt dit werk ook de kwaliteit van de tool zelf.

• Wees specifiek! Kies je bewoordingen bewust. Als je een AI om een opdracht vraagt, voeg dan specifieke woorden toe om het bereik van de AI te vergroten. In plaats van te vragen om een essay over iedereen die naar het park gaat, kun je vragen om een analytisch essay van precies vijf alinea's dat zich richt op de verschillende ervaringen en talenten van de mensen die een park bezoeken.

• Herziening! Ga er niet van uit dat het antwoord van een AI waar en foutloos is. AI-tools kunnen niet altijd een specifieke context ondersteunen, en ze hebben vaak moeite om een sarcastische toon te begrijpen. Bekijk altijd alles wat een AI voor u creëert: lees het, stel vragen en zorg ervoor dat niets niet klopt.

• Kritisch evalueren! Wees kritisch nadat je het werk van de AI hebt bekeken. Als u gendervoorbeelden gebruikt, zijn die dan gelijk verdeeld? Als u inhoud zoekt van mensen die door een park lopen, heeft de AI dan gezorgd voor een gevarieerde vertegenwoordiging van rassen, leeftijden, geslachtsuitdrukkingen, lichaamsgrootten en vaardigheden?

• Toevoegen! Als je merkt dat AI-gegenereerd werk een gevarieerde weergave mist, vooral wanneer een stem of persoon in een specifiek onderwerp moet worden opgenomen, voeg dan extra materiaal toe naast wat de AI heeft aangeleverd.

• Diversificatie aanmoedigen! De beste manier om vooroordelen aan te pakken is de demografie van mensen die in STEM (wetenschap, technologie, techniek en wiskunde) werken uit te breiden. Dit proces kan simpelweg betekenen dat jonge mensen worden aangemoedigd om zich te verdiepen in bèta/techniek; het kan ook betekenen dat organisaties als We All Code die STEM naar vaak over het hoofd geziene en historisch uitgesloten gemeenschappen willen brengen.

AI en ChatGPT zijn krachtige instrumenten die de macht van individuen en bedrijven vergroten. We zijn zo enthousiast over deze technologische vooruitgang, maar we weten ook dat we het wat rustiger aan moeten doen en de AI-resultaten moeten evalueren om ervoor te zorgen dat we deze hulpmiddelen met de grootst mogelijke verantwoordelijkheid gebruiken.