De essentie van de nieuwe IEEE 7000™-2021 norm is het idee dat als de waarden van de eindgebruikers die een technologisch product, dienst of systeem gaan gebruiken niet worden geanalyseerd, de ontwerpen hen hoogstwaarschijnlijk niet zo goed van dienst zullen zijn als ze zouden kunnen. Nu AI-systemen, die algoritmen hanteren die een aanzienlijke impact kunnen hebben op de eindgebruiker, steeds meer ingezet worden, is het volgens IEEE noodzakelijk om een op waarden gebaseerde methodologie te ontwikkelen die de praktijk van toegepaste ethiek duidelijk maakt aan iedereen die het traditionele systeemontwerp volgt. De nieuwe norm biedt een manier om de waarden van een eindgebruiker te analyseren en aan te wenden tot het punt waarop ze kunnen worden gedefinieerd als systeemvereisten.

Deze standaard voorziet in:

• een systeem engineering standaard aanpak die menselijke en sociale waarden integreert in traditionele systeem engineering en ontwerp.
• processen voor ingenieurs om de waarden van stakeholders en ethische overwegingen te vertalen in systeemvereisten en ontwerppraktijken.
• een systematische, transparante en traceerbare aanpak voor het omgaan met ethisch georiënteerde wettelijke verplichtingen bij het ontwerpen van autonome intelligente systemen.

De norm is een proces dat de systeemontwikkelaars vanaf de start van de ontwikkeling een procedure aanreikt die het hen gemakkelijker maakt rekening te houden met een reeks van waarden die meestal uiteindelijk het algemeen welzijn en de fundamentele rechten van de gebruikers in stand zullen houden. Het zijn immers de systeemontwikkelaars die bij dergelijke ontwerpprocessen alles overschouwen, van de apparaten tot de programma's en de automatiseringsprocessen. Dit proces heet “Value Based System Engineering”.

Het doel van deze norm is om organisaties in staat te stellen systemen te ontwerpen met expliciete inachtneming van individuele en maatschappelijke ethische waarden, zoals transparantie, duurzaamheid, privacy, eerlijkheid en verantwoordelijkheid, evenals waarden die typisch zijn voor systeemontwikkeling, zoals efficiëntie en effectiviteit.

Een ander belangrijk onderdeel waarin de IEEE 7000-2021 norm voorziet, is de aanpak van risico's. Waar traditionele evaluaties van technologische risico's zich voornamelijk richten op gebieden van fysieke schade, biedt de methodologie van IEEE 7000 een bredere lens om ook rekening te houden met potentiële schade aan de waarden die gepaard gaat met het ontwerp van producten of systemen.

Ⓒ IEEE

De norm verdeelt het ontwikkelingsproces in verschillende stappen die duidelijke handelingsaanwijzingen geven. Daarbij gaat het niet alleen om de kwaliteit van de software en de hardware, maar ook om het bedrijfsmodel en de bedrijfscultuur. Als er bijvoorbeeld al in een vroeg stadium voor was gezorgd dat sociale media niet door advertenties maar door gebruikersbijdragen werden gefinancierd, had dit een grote impact gehad. De impact op het milieu is een ander criterium. Denk hierbij bijvoorbeeld aan cryptocurrencies en het grote energieverbruik dat hieraan gekoppeld is. Dit is momenteel te zien bij de cryptocurrencies van de zo vaak bejubelde blockchain-technologie, die ongelooflijk veel elektriciteit verbruikt. Zodra deze waarden zijn geïdentificeerd, worden zij vervolgens vertaald in ontwerpkenmerken en vervolgens geassimileerd in traditionele systeemontwerpprocessen.

Dit zijn de verschillende stappen in het proces:

Concept of Operations (ConOps) and Context Exploration Process

Het doel van het ConOps and Context Exploration Process is te bepalen hoe een systeem naar verwachting zal werken vanuit het perspectief van de gebruikers en de context waarin het wordt gebruikt, de stakeholders, en het potentieel voor ethisch voordeel of schade. Dit onderdeel ontwikkelt een begrip van de ethische omgeving waarin het systeem en de werking ervan van invloed zijn op de stakeholders.

Ethical Values Elicitation and Prioritization process

Via het Ethical Values Elicitation and Prioritization process kunnen systeemontwikkelaars waarden bepalen en rangschikken en laten goedkeuren door het management en andere stakeholders. Dit moet vervolgens dienen als basis voor de vereisten en het ontwerp van het systeem.

Ethical Requirements Definition process

Het doel van het Ethical Requirements Definition process is het formuleren van ethische systeemvereisten die bepalen hoe de geprioriteerde kernwaarden en hun waarde-indicatoren in het systeem worden weerspiegeld. Ethische vereisten zijn voorgestelde risicobeperkende behandelingen om de kernwaarden te beschermen en te behouden binnen het systeem. Dit proces betrekt degenen die verantwoordelijk zijn voor het systeem en legt hun verbintenis tot vereisten vast door middel van validatie.

Ethical Risk-based design process

Met deze stap worden ethische waarden en de vereiste functionaliteit gerealiseerd in het systeem

of softwareontwerp. Het omvat functionaliteit die helpt bij het beperken of controleren van geïdentificeerde risico's voor systeemvereisten.

Transparency management process

Deze laatste stap is het delen van voldoende en passende informatie over hoe de ontwikkelaar ethische aandachtspunten tijdens het systeemontwerp heeft aangepakt.