Om er zeker van te zijn dat we het juiste doen terwijl we innovatie in de onderwijstechnologie stimuleren, gaan we verder dan onze zorgvuldigheidsplicht op het gebied van privacy en ethiek. We proberen een nieuwe norm te stellen om de hele ed-tech markt aan te moedigen nog scherpere eisen te stellen. Dat laten we zien door een aantal veelgestelde vragen te beantwoorden.

Standaard heeft de AI geen toegang tot gegevens van studenten. De AI krijgt alleen toegang tot de gegevens als dat nodig is voor het geven van geautomatiseerde feedback. Toegang tot studentgegevens wordt onmiddellijk verwijderd wanneer Automated Feedback wordt uitgeschakeld. Het systeem gebruikt geen persoonlijke informatie waarmee studenten direct kunnen worden geïdentificeerd. De AI heeft alleen toegang tot het werk van de student waarop feedback moet worden gegeven en tot algemene metagegevens over de opdracht.

Het werk van de student wordt verwijderd uit het geheugen van de AI zodra het verwerkt is. We kunnen bepaalde werken van studenten gebruiken om de AI te trainen zodat hij beter wordt in het geven van feedback. Dit gebeurt in alle discretie en in overeenstemming met onze Service Level Agreement met jouw instelling. In deze gevallen zal onze Data Officer het werk eerst anonimiseren (bijv. het verwijderen van namen van studenten en docenten, de naam van de universiteit etc.) voordat verdere verwerking plaatsvindt. Hierna wordt het bestand alleen bekeken door maximaal één annotator (een medewerker van FeedbackFruits), die relevante secties markeert zodat de AI deze kan leren herkennen.

Uiteraard voldoen we altijd aan verzoeken tot volledige verwijdering van gegevens, waartoe we ook wettelijk verplicht zijn in Europa.

Hoewel we ons best doen om een stabiele en volgroeide service te bieden, zal elke AI fouten maken. We nemen deze realiteit serieus en beseffen dat er in het onderwijs weinig ruimte is voor fouten. We zijn er echter van overtuigd dat de voordelen van het gebruik van AI in het onderwijs te waardevol zijn om niet na te streven. Daarom nemen we alle voorzorgsmaatregelen om de impact van eventuele fouten die we maken te minimaliseren.

Ten eerste gebruiken we AI-technologieën alleen in het formatieve proces (d.w.z. het leerproces zelf), en op dit moment gebruiken we AI niet in het summatieve proces (d.w.z. alles wat met beoordelen te maken heeft). Dit voorkomt het risico dat de AI fouten maakt met ernstige gevolgen voor de student.

Ten tweede zorgen we er altijd voor dat wanneer een AI een conclusie trekt (bijvoorbeeld een suggestie of compliment), studenten zich ervan bewust zijn dat dit het resultaat is van een AI en dat ze deze conclusie altijd als onjuist kunnen markeren.

Je kunt altijd contact met ons opnemen via de ondersteuningsknop linksonder. Onze ondersteuning zorgt ervoor dat je in contact komt met de juiste persoon die het probleem begrijpt en ervoor zorgt dat het in de toekomst wordt opgelost.

Om ervoor te zorgen dat we ook problemen ontdekken zonder dat gebruikers contact met ons opnemen, hebben we ook actieve monitoring ingesteld. Dit laat ons zien hoe vaak elke controle mislukt op basis van het aantal bezwaren van studenten.

Merk op dat deze functie in ontwikkeling is, er zullen controles beschikbaar zijn in verschillende stadia van technische volwassenheid. Sommige zullen volwassen zijn en zelden fouten maken. Andere zijn erg experimenteel en niet erg betrouwbaar. We proberen altijd zo duidelijk mogelijk te communiceren wat het betrouwbaarheidsniveau van elke controle is, zodat je weet wat je kunt verwachten en op basis daarvan kunt beslissen of je ze in je klas wilt gebruiken.