Ensuring trustworthy use of artificial intelligence and big data analytics in health insurance.

ABSTRACT

Technological advances in big data (large amounts of highly varied data from many different sources that may be processed rapidly), data sciences and artificial intelligence can improve health-system functions and promote personalized care and public good. However, these technologies will not replace the fundamental components of the health system, such as ethical leadership and governance, or avoid the need for a robust ethical and regulatory environment. In this paper, we discuss what a robust ethical and regulatory environment might look like for big data analytics in health insurance, and describe examples of safeguards and participatory mechanisms that should be established. First, a clear and effective data governance framework is critical. Legal standards need to be enacted and insurers should be encouraged and given incentives to adopt a human-centred approach in the design and use of big data analytics and artificial intelligence. Second, a clear and accountable process is necessary to explain what information can be used and how it can be used. Third, people whose data may be used should be empowered through their active involvement in determining how their personal data may be managed and governed. Fourth, insurers and governance bodies, including regulators and policy-makers, need to work together to ensure that the big data analytics based on artificial intelligence that are developed are transparent and accurate. Unless an enabling ethical environment is in place, the use of such analytics will likely contribute to the proliferation of unconnected data systems, worsen existing inequalities, and erode trustworthiness and trust.

Les progrès technologiques en matière de big data (un terme qui désigne de grandes quantités de données extrêmement variées, provenant de différentes sources et pouvant être traitées rapidement), de sciences de l'information et d'intelligence artificielle peuvent améliorer le fonctionnement du système de santé, mais aussi promouvoir des soins personnalisés et servir l'intérêt public. Néanmoins, ces technologies ne permettront pas de remplacer les composantes fondamentales du système de santé, comme le leadership éthique et la bonne gouvernance, ni d'éviter la nécessité de créer un environnement déontologique et réglementaire solide. Le présent document se penche sur la définition de cet environnement déontologique et réglementaire solide pour l'analyse des big data dans le domaine de l'assurance maladie, et fournit à titre d'exemple les mécanismes de protection et de participation qu'il convient d'instaurer. En premier lieu, imposer un cadre de gouvernance précis et efficace est essentiel au traitement des données. Des normes juridiques doivent être promulguées, tandis que les assureurs doivent être encouragés et incités à adopter une approche centrée sur l'humain, tant dans leur conception que dans leur utilisation de l'analyse des big data et de l'intelligence artificielle. Deuxièmement, il faut mettre en place un processus clair et responsable afin d'expliquer quels types d'informations sont susceptibles d'être employés et à quelles fins. Troisièmement, les personnes concernées doivent avoir la possibilité de déterminer de quelle manière leurs données personnelles sont gérées et régies, en étant activement impliquées dans ce processus. Et quatrièmement, les assureurs et les organes de gouvernance, dont les régulateurs et législateurs, doivent collaborer pour faire en sorte que l'analyse des big data basée sur l'intelligence artificielle soit correcte et transparente. À moins d'établir un environnement éthique, l'usage d'une telle analyse entraînera probablement la prolifération de systèmes de données non connectés, l'aggravation des inégalités actuelles ainsi qu'une perte de confiance et de fiabilité.

RESUMEN

Los avances tecnológicos relativos a los macrodatos (es decir, grandes cantidades de datos muy variados de muchas fuentes diversas que pueden procesarse rápidamente), las ciencias de los datos y la inteligencia artificial pueden mejorar las funciones del sistema sanitario y promover la atención personalizada y el bien público. No obstante, estas tecnologías no sustituirán los componentes fundamentales del sistema sanitario, como el liderazgo ético y la gobernanza, ni evitarán la necesidad de un entorno ético y normativo sólido. En el presente documento se examina cómo podría ser un entorno ético y normativo sólido para el análisis de macrodatos en el ámbito de los seguros médicos, y se describen ejemplos de mecanismos de protección y participación que deberían establecerse. En primer lugar, es fundamental contar con un marco claro y eficaz de gestión de datos. Es necesario promulgar normas jurídicas y alentar e incentivar a las aseguradoras para que adopten un enfoque centrado en el ser humano en el diseño y la aplicación de análisis de macrodatos e inteligencia artificial. En segundo lugar, es necesario un proceso claro y responsable para explicar cómo y qué información se puede utilizar. En tercer lugar, se debe facultar a las personas cuyos datos puedan ser utilizados mediante su participación activa en la determinación de cómo se pueden gestionar y regular sus datos personales. En cuarto lugar, las aseguradoras y los órganos de gobierno, incluidos los reguladores y los responsables de formular políticas, deben colaborar para garantizar que los análisis de macrodatos basados en la inteligencia artificial que se elaboren sean transparentes y precisos. A menos que exista un entorno ético adecuado, el uso de esos análisis probablemente contribuirá a la proliferación de sistemas de datos sin conexión, empeorará las desigualdades existentes y reducirá la fiabilidad y la confianza.