Beslissing niet aan machine overlaten

Opinie
23 februari 2018 1 minuut leestijd

Algoritmes worden steeds slimmer. Maar vindt u dat ze nu of in de toekomst belangrijke beslissingen mogen nemen? Een meerderheid van de deelnemers aan onze poll vindt van niet. Mensen blijven verantwoordelijk vindt 60%.

Toch is er ook vertrouwen in geautomatiseerde systemen. Op onze vraag ‘Mogen algoritmes beslissingen nemen?’, stemde 21% positief als het (meer) levens kan redden. 13% vindt het een optie, mits de techniek is doorontwikkeld. 6% geeft aan het niet te weten.

Veiliger en gezonder

In onze poll gaven we het voorbeeld van de zelfrijdende auto. Stel dat deze betrokken raakt bij een ongeluk en voor u de keuze maakt tussen leven en dood? Maar algoritmes – sets van regels die conclusies trekken uit gegevens – zijn op veel meer terreinen doordrongen in de samenleving. Ze maken het leven gemakkelijker, veiliger en gezonder. Als ze inzicht geven in onze administratie bijvoorbeeld, een diagnose stellen of een hartaanval tijdig zien aankomen.

Ongewenste keuzes

Een keerzijde is er ook. Als algoritmes ons wereldbeeld gaan bepalen en/of ongewenste keuzes voor ons maken. Want is het mogelijk om ethische beslissingen te programmeren? Ethiek te vertalen in een algoritme? Software is afhankelijk van de gegevens die mensen erin stoppen. En deze zijn volgens mensenrechtenorganisatie Amnesty International ‘zo gekleurd als wat’. Een ander punt van zorg is dat niet altijd te controleren is hoe een bepaalde uitkomst tot stand is gekomen.

Rechtvaardigheid

Amnesty maakt zich – net als veel deelnemers aan onze poll – zorgen over (verkeerd) gebruik van algoritmes. De organisatie vreest onder meer dat de rechtvaardigheid in het geding komt wanneer apparaten zelfstandig beslissingen maken, schrijft directeur Eduard Nazarski. En Amnesty staat daarin niet alleen. Over hoe om te gaan met kunstmatige intelligentie is het laatste woord dan ook nog niet gezegd.

Securitas Studio Sessies

Bent u geïnteresseerd in de kansen en bedreigingen voor onze veiligheid en beveiliging? Bekijk dan onze Studio Sessies waarin experts hun visie geven op ontwikkelingen op het gebied van technologie, data en de open samenleving.