ICT-systemen vervuilen en discrimineren, maar we kunnen verantwoorde IT bouwen
Digitale systemen hebben de afgelopen veertig jaar een enorme vlucht genomen. De sterke groei en opschaling zijn gepaard gegaan met snelle oplossingen. “Op veel plekken hebben we ‘ducttape’ gebruikt”, constateert Nanda Piersma, lector Responsible IT aan de Hogeschool van Amsterdam (HvA) en het Centrum voor Wiskunde en Informatica (CWI). Piersma betoogt in haar boek System error, please restart en gelijknamige lectorale rede op 6 december hoe we desondanks verantwoorde ICT-systemen kunnen creëren. Dat kan door ontwerpers te helpen andere ontwerpkeuzes te maken tijdens het bouwen.
Nanda Piersma betoogt in haar boek System error, please restart dat we IT-systemen op elkaar bouwen, terwijl de onderliggende structuur van de systemen nooit bedoeld was voor wereldwijde opschaling en gebruik in een andere context. “Als we het nog eens zouden doen, zouden we andere keuzes maken,” zegt Piersma.
Van banken tot commerciële bedrijven en overheid- overal werken we met systemen en methoden die nog stammen uit het verleden van de computer, terwijl er inmiddels andere, meer verantwoorde alternatieven beschikbaar zijn. Een voorbeeld: computerservers worden nog steeds luchtgekoeld met ventilatoren, wat veel energie kost. “Als we opnieuw computerservers zouden uitvinden, zouden we dan weer luchtventilatoren willen als koelsysteem, of zouden we energiezuinigere oplossingen zoeken?”
Concrete stap naar verantwoorde ICT
Toch is de overgang naar verantwoorde ICT binnen handbereik, stelt Piersma. Haar boektitel System error, please restart verwijst naar een term uit de computergeschiedenis, maar staat ook symbool voor de opgave van haar onderzoeksteam om verantwoorde ICT creëren; zeker nu kunstmatige intelligentie in opkomst is.
Hoe kun je dan andere ontwerpkeuzes maken, om wél verantwoorde IT te bouwen? In haar boek formuleert Piersma nieuwe kaders, die duidelijkheid moeten verschaffen aan IT’ers en ontwerpers.
Van digitale integriteit tot dieper comfort
Allereerst, stelt Piersma, kun je ontwerpen vanuit het principe van ‘digitale integriteit’. “Als bloed bij je wordt afgenomen, heb je daar in de regel toestemming voor gegeven. Maar digitaal worden continu persoonlijke data geanalyseerd, zonder dat je dit überhaupt weet.”
Een tweede belangrijk ontwerpprincipe is digitaal comfort. Piersma: “Sommige apps zijn weliswaar handig in gebruik, maar zorgen toch voor dat stemmetje in je achterhoofd: is dit wel veilig? Wat gebeurt met mijn persoonlijke data? Ze komen in je persoonlijke ruimte, en dat voelt niet prettig.” Als ontwerper kun je ook focussen op dat diepere gevoelsmatige comfort van gebruikers, in plaats van alleen op gebruiksgemak.
Een andere richtlijn is de menselijke maat. “We gebruiken overal kunstmatige intelligentie voor, terwijl dit niet altijd nodig of verantwoord is. Camera’s met beeldherkenningsalgoritmes inzetten om aantallen reizigers in een trein, of in een supermarkt te tellen? Daar zijn andere methodes voor.”
Tot slot noemt Piersma toekomstbestendigheid als ontwerpprincipe: duurzaam en robuust bouwen voor de lange termijn. “Zorg ervoor dat het blijft werken, ook als de toepassing op een ander computersysteem wordt gebruikt.”
Dit artikel is een ingezonden bericht en valt buiten de verantwoordelijkheid van de redactie.