28 oktober was er een workshop van begeleidingsethiek over wetenschappelijke kennisverspreiding in het generatieve tijdperk in Utrecht. Deze sessie is georganiseerd door SURF  mogelijk gemaakt door MCOIG. Het programma begeleidingsethiek is een onderdeel van ECP, het programma is gebaseerd op techniekfilosofie die uitgaat van eeuwenoude verwevenheid tussen mens en technologie. Bij begeleidingsethiek houden ze zich bezig met vragen als: wat is de positie van de mens in deze omgeving, hoe staat het met data, met privacy, wat doen algoritmes en wat willen gebruikers eigenlijk?

Tijdens de workshop stond het onderwerp: ‘wetenschappelijke kennisverspreiding in het generatieve AI-tijdperk’ centraal. Verschillende vertegenwoordigers uit wetenschap, uitgeverijen, bibliotheken, beleid en technologie zijn met elkaar in gesprek gegaan over de invloed van generatieve AI op het publicatie- en verspreidingsproces. Gezamenlijk hebben de deelnemers het digitale domein bekeken en onderzocht welke waarden zij belangrijk vonden. Verder is er gekeken naar handelingsopties vanuit de techniek, de collectieve afspraken en het individueel gedrag. Er is tijdens de workshop niet gezocht naar consensus, maar naar het komen tot veelsoortige mogelijkheden.

De workshop bestond uit drie onderdelen. Hieronder zijn deze onderdelen kort samengevat.

Technologie en context

Generatieve AI en Large Language Models (LLM's) hebben invloed op het wetenschappelijke publicatieproces en roepen vragen op over kennisgezag, kwaliteit en bronvermelding. In deze casus is gekeken naar de inzet van AI bij de beoordeling, validatie en verspreiding van wetenschappelijke output, onder meer als ondersteuning bij screening en peer review. Daarnaast geeft generatieve AI-mogelijkheden om wetenschappelijke kennis toegankelijker te maken voor een breder publiek, wat nieuwe vragen oproept over auteurschap, citatie en het gebruik van AI bij trainingsdata. Dit vraagt echter wel om nieuwe afspraken over de rol van de mens en technologie om de betrouwbaarheid van wetenschappelijke output te waarborgen.

Dialoog

In deze fase gingen deelnemers met elkaar in gesprek over generatieve AI. De deelnemers gingen kijken wie er betrokken zijn bij de inzet en het gebruik van generatieve AI. De deelnemers hebben gekeken naar de positieve en negatieve effecten van deze inzet. Hierbij is gekeken vanuit uiteenlopende perspectieven waaronder wetenschap, uitgeverijen, beleid, bibliotheken en burgers. Er is besproken hoe generatieve AI kansen biedt voor een bredere en toegankelijkere kennisverspreiding, efficiëntere reviewprocessen en nieuwe vormen van een goede samenwerking.

Ook is er gekeken naar de negatieve effecten. Zo zijn o.a. de onderwerpen, kwaliteit, betrouwbaarheid, afhankelijkheid van commerciële partijen, klimaat, en de onduidelijkheid waar de verantwoording ligt aan bod gekomen. Tijdens een gesprek zijn de onderliggende waarden besproken, waarbij kennisverdeling, onafhankelijkheid, en betrouwbaarheid als meest relevant zijn aangemerkt en richtinggevend waren voor het formuleren van de handelingsopties.

Handelingsposities

Het laatste onderdeel van de workshop was het onderdeel handelingsopties. In het proces van het opstellen van de handelingsopties zijn de waarden uit de vorige fase meegenomen. De deelnemers zijn hiervoor verdeeld in drie werkgroepen. Elke groep is aan de slag gegaan met een gespreksonderwerp. Dit gespreksonderwerp leidt tot handelingsopties per categorie.  

Het was een succesvolle bijeenkomst. De grote gemene deler was dat de aanpak begeleidingsethiek een prettige aanpak is die in korte tijd heeft geleid tot een rijke opbrengst.

Ben je nog niet uitgelezen over dit onderwerp? Lees dan het hier het hele verslag van de workshop

Kijk voor meer informatie over begeleidingsethiek op de site.

Kijk voor meer informatie over initiatiefnemer SURF op de site.

‍