Digital Dilemmas

Digital Dilemmas: Humanitarian Consequences est une expérience immersive dans laquelle les visiteur·euses sont confronté·es à certains des dilemmes numériques auxquels les populations civiles et les aides humanitaires doivent faire face quotidiennement dans les zones de conflit du monde entier.

Vous y découvrirez que nouvelles technologies peuvent être à la fois une bénédiction et une malédiction dans le monde humanitaire, en particulier dans les zones de conflit. Les outils numériques donnent accès à des services essentiels, mais ils peuvent aussi exposer des données personnelles, permettre la surveillance ou exacerber la désinformation, ce qui rend ces populations encore plus vulnérables.

Digital Dilemmas a été présentée pour la première fois au siège des Nations unies à New York en 2023, en collaboration avec la Confédération suisse. Elle a ensuite été proposée au grand public sous la forme d'une expérience audiovisuelle interactive en ligne. Cette nouvelle édition comprend de nouveaux défis et est suivie d'une installation présentant des solutions développées par les laboratoires de l'EPFL en collaboration avec le CICR et l'ETH Zurich dans le cadre de l'initiative Engineering for Humanitarian Action. A l'EPFL, cette initiative est coordonnée par le Centre EssentialTech.

En parallèle, la conférence Dilemmes numériques : Building Digital Resilience in Humanitarian Crises, qui explore en profondeur les thèmes de l'exposition, aura lieu le 21 mai au Forum Rolex.
-> Informations et inscriptions ici

Digital Dilemmas – défis immersifs

• Biométrie

  
  

  Les données biométriques peuvent faciliter l’action humanitaire dans de nombreuses situations. Cependant, puisqu’elles créent une trace permanente permettant d’identifier une personne, ces technologies comportent des risques qui doivent être abordés en priorité. Le CICR et d’autres organisations humanitaires s’efforcent de distribuer l’aide aussi efficacement et équitablement que possible à celles et ceux qui en ont le plus besoin. Elles doivent également être redevables envers les dona­teurs en démontrant que les fonds sont utilisés à bon escient. Afin de lutter contre la duplication de l’aide et la fraude, les humanitaires doivent être attentifs à qui et où elle est distribuée. Mais les méthodes habituelles pour faire cela, comme les papiers d’identité, sont souvent difficilement utilisables dans les zones d’opération du CICR. Les données biométriques, telles que les scanners d’empreintes digitales ou d’iris, offrent une alternative, mais présentent des risques importants pour la vie privée. Imaginez si des personnes malveillantes accèdaient à ces données biométriques et en faisaient mauvais usage…

  
  

• Implication des civils

  
  

  Avec l’utilisation des technologies numériques dans les conflits, une pression grandissante s’applique sur le principe de distinction entre les civils, qui sont protégés, et les militaires, qui peuvent être ciblés. Comme il n’a jamais été aussi simple d’impliquer des personnes dans des activités militaires cybernétiques et numériques, par exemple le suivi de mouvements de troupes ou la participation à des cyberattaques, elles s’exposent à des représailles. En effet, selon le droit international humanitaire, les civils contribuant activement aux efforts militaires peuvent perdre leur statut protecteur. De plus, le CICR maintient une position claire : les partici­pants aux conflits numériques, qu’ils soient civils ou militaires, doivent adhérer à des règles fondamentales, comme l’interdiction d’attaques cybernétiques contre les infrastructures civiles.

  
  

• Désinformation

  
  

  La désinformation et la mésinformation peuvent augmen­ter la vulnérabilité des personnes dans les conflits, comme par exemple la localisation erronée d’une distribution de nourriture. Les discours de haine contribuent également directement ou indirectement à mettre en danger la vie, la sécurité et la dignité des populations civiles. La désinformation et les rhétoriques haineuses, souvent qualifiées de guerre de l’information, sont fréquemment utilisées pour alimenter les tensions ethniques et religieuses et pour inciter à la violence. Lorsque les organisations d’aide humanitaire sont ciblées, les répercussions peuvent être considérables. Cela peut potentiellement entraver leur capacité à fournir de l’aide et causer du tort aux populations déjà vulnérables qu’elles cherchent à assister. Par exemple, en 2018, des travailleurs humanitaires, y compris le personnel de la Croix-Rouge qui luttait contre Ebola, ont été ciblés par des campagnes de désinformation. Cela s’est traduit par des actes de violence et a également rendu plus difficile la fourniture de soins adéquats aux patients.

  
  

• L’IA & les Deep Fakes

  
  

  Les nouvelles méthodes et outils de désinformation et de manipulation des images, sons et vidéos, également connus sous le nom de Deep Fakes, sont beaucoup plus accessibles grâce aux possibilités offertes par l’IA. Utilisés dans les situations de conflits, les Deep Fakes accélèrent la propagation de la désinformation et des discours de haine. Ils créent de nouvelles vulnérabilités pour celles et ceux ayant besoin d’aide humanitaire, augmentent les risques de sécurité et peuvent saper la confiance dans les organisations humanitaires. Ils contribuent potentiellement à de sérieuses violations du droit international humanitaire, telles que des appels à commettre des crimes contre l’humanité.

  
  

• L’IA & la prise de décision

  
  

  L’intelligence artificielle ( IA ) joue un rôle croissant dans les processus décisionnels dans les guerres contemporaines. De l’identification ou du suivi de personnes ou d’objets, en passant par la formulation de recommandations sur les actions militaires à prendre ou les prédictions sur les évé­nements futurs, les technologies d’IA offrent des capacités sans précédent ainsi que de nouveaux défis éthiques considérables. Les systèmes d’IA fonctionnent souvent comme des « boîtes noires », les opérateurs n’ayant pas accès aux données utilisées, à la construction et au processus d’apprentissage des algorithmes qui orientent les décisions. Cette opacité, couplée à une tendance humaine à trop faire confiance à la technologie, peut conduire à de graves erreurs dans des situations de conflit, surtout si les systèmes d’IA présentent des biais ou échouent de manière inattendue. Pour le CICR, la dépendance à l’IA dans les décisions de vie ou de mort introduit des risques potentiels pour la sécurité des civils.

  
  

• Connectivité

  
  

  Avoir accès à une connexion Internet est souvent crucial pour les personnes affectées par les conflits armés. En cas de coupures ou de surveillance, cela peut poser de sérieux risques pour la vie, la sécurité et la dignité de celles et ceux qui sont déjà vulnérables. Un téléphone est bien plus qu’un simple outil. Il aide à appréhender une situation, à savoir où se trouve l’hôpital le plus proche, à rester en lien avec ses proches, à garder des documents en sécurité ou à recevoir de l’argent pour acheter de la nourriture. Il est essentiel de garantir que, tout en facilitant un soutien vital et en maintenant des lignes de communication, des mesures soient également prises pour protéger les individus des dangers liés à la surveillance, préservant ainsi leurs droits et leur vie privée dans les crises humanitaires.

  
  

• Protection des données

  
  

  La protection des données est cruciale dans le travail humanitaire car elle garantit la sécurité et la dignité des personnes recevant de l’aide pendant les crises. Lorsque les organisations humanitaires collectent des informations personnelles, telles que noms, adresse et détails de santé, elles ont la responsabilité de les protéger contre les abus. Si ces informations tombaient entre de mauvaises mains, cela pourrait entraîner d’autres problèmes pour des personnes déjà vulnérables. Par conséquent, les humanitaires doivent garantir une gestion appropriée de ces données afin de prévenir des violations de la vie privée et de maintenir la confiance entre les fournisseurs d’aide et les bénéficiaires.

  
  

Bienvenue dans le monde complexe des dilemmes numériques dans les contextes humanitaires. Que ferez-vous ?