Kunnen we bouwen op ICT?

Kunnen we bouwen op ICT?
De kwetsbaarheid van de
informatiesamenleving
Paul ‘t Hoen
Foto:
Rineke Dijkstra
Definitie
Kwetsbaarheid is een uitdrukking van de functionele
problemen die een systeem ondervindt wanneer het
wordt getroffen door een ongewenste gebeurtenis,
alsmede van de problemen die het systeem zal hebben
met het herstellen van zijn werking na de gebeurtenis.
Kwetsbaarheid is gekoppeld aan een mogelijk verlies
van waarde. (-)
Kwetsbaarheid is in hoge mate “self-inflicted”. Het kan
worden beïnvloed, begrensd of verminderd.
(Naar: Norges Offentlige Utredninger 2000)
Hoe kwetsbaar zijn we eigenlijk?
• “Het valt allemaal best mee”
– Degenen die verder kijken dan de techniek
alleen
– Degenen die een economisch belang
vertegenwoordigen
• “Het is vijf voor twaalf”
– Degenen die bang zijn voor de techniek
– Degenen die begrijpen hoe de techniek
werkt
De onzekerheidstrog
onzekerheid
leek
expert
Hoofdstelling
• Kwetsbare ICT kan leiden tot een kwetsbare
samenleving, maar die lijkt vrij robuust en
weerbaar
• Echter: perceptie van kwetsbare ICT en
verwachtingen rond maatschappelijke
effecten kan leiden tot een gebrek aan
vertrouwen in ICT
• Dat leidt tot suboptimale inzet en
maatschappelijk achterblijven bij de
mogelijkheden
Kernpunt: vertrouwen
• Beantwoordt het systeem aan mijn
verwachtingen?
• Zo niet, wie kan ik daar dan op
aanspreken?
• Hoe afhankelijk ben ik van het systeem?
Risico acceptatie criteria
10-4
nonacceptabel
10-6
acceptabel
10-8
10-10
1
10
100
1000
10.000
Aantal slachtoffers
Verknoping van netwerken
•
•
•
•
•
•
•
•
•
telecommunicatie (vast, mobiel, internet)
energie (gas, electriciteit)
drinkwater, riolering
verkeer en vervoer (logistiek)
financiële netwerken (banken, beurs,
betaalsystemen)
openbaar bestuur, incl. politie en hulpdiensten
media (omroep, pers)
gezondheidszorg
sociale netwerken
Verknoping
Tijdsaspect
Hinder
“coping”
Duur van de storing
Paradox 1
Hoe betrouwbaarder een systeem, hoe
moeilijker het wordt om je aan te passen
bij uitval/verstoring/misbruik.
De 3 basiselementen
• Beschikbaarheid
– verlies van connectiviteit
– verlies van functies
• Integriteit
– vervalsing of verlies van gegevens
• Vertrouwelijkheid
– misbruik van gegevens (privacy)
Positie van de gebruiker
• Krijgt steeds meer verantwoordelijkheid
– maatregelen (virusscanner, firewall, back-ups,
browser instelling)
– gedrag (“geen attachments openen”)
• Kan steeds moeilijker iemand aansprakelijk
stellen
• Heeft informatie en kennis nodig om
verantwoordelijkheid te kunnen nemen
• Hoever willen we gaan?
Gebruikersverantwoordelijkheid
Wat is waar?
Is het nog te beheersen?
• Complexiteit door verknoping
• Teveel mogelijke toestanden
vraagt om
• robuuste ontwerp beginselen
• testen
• analyse van feitelijke gebeurtenissen
Ontwerpbeginselen
• Veilgheid geïntegreerd, niet toegevoegd
• Altijd in de context van de omgeving en het
gebruik
– is meer dan een technisch probleem
– vraagt brede blik, procesinzicht, interdisciplinariteit
– er is altijd dynamiek
• Toepassen van intelligente bouwblokken,
verminderen van centrale sturing
– lessen uit de natuur
Paradox 2
• Hoe minder homogeniteit, hoe
robuuster de infrastructuur,
• maar hoe meer standaardisatie, hoe
gemakkelijker het is om storingen op te
vangen.
Testen
• Systeemfalen steeds minder veroorzaakt door
componentfalen,
• maar door interactie tussen componenten en
door interactie tussen systeem en gebruiker
(en beheerder)
• Testen nodig maar nooit voldoende
• Murphy was een optimist
Stelling 1
Het uitschakelen van het netwerk van
KPNQwest zou een prachtige test zijn
geweest van de kwetsbaarheid van het
Internet, en van de daaraan verbonden
maatschappelijke kwetsbaarheid.
Kenmerken van uitval
•
•
•
•
•
Meestal geografisch begrensd
Tenzij “Denial of Service Attack”
Hersteltijd relatief kort
Soms zijn er alternatieven
“Single points of failure” blijven een
probleem
Stelling 2
Uitval van netwerken is vooral een gevolg
van de interne dynamiek:
uitbreiding, modernisering, vervanging,
onderhoud.
Verlies van integriteit
• “Onzichtbare” gegevensdiefstal
• Of verandering van gegevens
• Of valse gegevens
– wat is waar?
• Of gegevensverlies
– virussen
• Kan zeer ontwrichtend werken
Verlies van vertrouwelijkheid
•
•
•
•
Slordigheid
Misbruik
Vaak niet (meer) te traceren
Spanning overheid en burger
(encryptie)
• Creëert veel argwaan en onzekerheid
Hoe zit het met de feedback?
• Er is geen informatieplicht
• Er is geen informatiebundeling
• Er is daardoor geen systematische analyse
mogelijk van feitelijke incidenten
• Er is dus geen goede overall feedback (alleen
component of subsysteem feedback) ten
behoeve van ontwerpers, beheerders en
gebruikers, en voor de markt
• Wel deelanalyses en theoretische studies
Het belang van transparantie
Een centraal informatie- en analysepunt (en een
informatieplicht) zijn noodzakelijk voor
• vermindering van de kwetsbaarheid
• en vergroting van de weerbaarheid
• (denk aan Stoomwezen, Ongevallenraad etc.)
• Dat is meer dan een CERT
(Computer Emergency Response Team)
Stelling 3
Er komt pas een
“Raad voor de ICT veiligheid”
als er door ICT-storingen
doden zijn gevallen.
Conclusie 1
• Verbetering van de werking van digitale
systemen (betrouwbaar, integer, vertrouwd) is
niet alleen van belang voor de vermindering
van de kwetsbaarheid van de samenleving
• Het is ook van groot belang om de
acceptatie, en daarmee de positieve effecten,
van ICT in de samenleving te maximaliseren
Conclusie 2
• In de huidige stand van ICT toepassing
(vooral enabling) is systeemuitval vooral een
economisch probleem
• Maatschappelijke ontwrichting dreigt bij
aantasting van de Integriteit en
Vertrouwelijkheid
Conclusie 3
• Voor vermindering van de kwetsbaarheid van
digitale systemen vindt plaats in de ontwerp-,
de test- en de beheerfase is
interdisciplinariteit noodzakelijk
– het gaat om meer dan techniek
• Volledige en transparante informatie
uitwisseling zijn essentieel voor voortdurende
verbetering
Foto:
Rineke Dijkstra