La inteligencia artificial en la prevención de conductas suicidas: aspectos técnicos y consideraciones ético-legales / La intelligència artificial en la prevenció de conductes suïcides: aspectes tècnics i consideracions ètico-legals / Artificial intelligence in the prevention of suicidal behaviour: Technical aspects and ethical-legal considerations

RESUMEN

En este artículo reflexionamos sobre la potencialidad terapéutica de los nuevos desarrollos de la Inteligencia Artificial en el ámbito de la salud mental, en particular en la prevención de conductas suicidas. En primer lugar, analizamos los aspectos tecno-científicos más relevantes del Machine Learning en el entorno de las Redes Sociales, las aplicaciones móviles y los chatbots, así como las ventajas e inconvenientes de esta nueva Psiquiatría Computacional. A continuación, consideramos los límites y dificultades en el uso de estas tecnologías desde una perspectiva ética, además del marco legal para que estas aplicaciones preventivas sean garantistas en lo que a eficacia, seguridad, privacidad, transparencia, responsabilidad y equidad se refiere. Si bien las amenazas son considerables, concluimos que con una correcta identificación y gestión de las mismas el alcance terapéutico de estas herramientas se antoja alentador.(AU)

En aquest article reflexionem sobre la potencialitat terapèutica dels nous desenvolupaments de la Intel·ligència Artificial en l'àmbit de la salut mental, especialment en la prevenció de conductes suïcides. En primer lloc, analitzem els aspectes tecno-científics més rellevants de l'Aprenentatge Automàtic en l'entorn de les Xarxes Socials, les aplicacions mòbils i els chatbots, així com els avantatges i inconvenients d'aquesta nova Psiquiatria Computacional. A continuació, considerem els límits i les dificultats en l'ús d'aquestes tecnologies des d'una perspectiva ètica, a més del marc legal perquè aquestes aplicacions preventives siguin garantistes en qüestions d'eficàcia, seguretat, privadesa, transparència, responsabilitat i equitat. Toti que les amenaces són considerables, concloem que amb una correcta identificació i gestió d'aquestes, el potencial terapèutic d'aquestes eines sembla prometedor.(AU)

ABSTRACT

In this article we reflect on the therapeutic potential of the new developments of Artificial Intelligence in the field of mental health, particularly in the prevention of suicidal behavior. First, we analyze the most relevant techno-scientific aspects of Machine Learning in the environment of Social Networks, mobile applications and chatbots, as well as the advantages and disadvantages of this new computational psychiatry. Next, we consider the limits and difficulties in the use of these technologies from an ethical perspective, in addition to the legal framework so that these preventive applications are guarantees in terms of efficacy, security, privacy, transparency, responsibility and fairness. Although the threats are considerable, we conclude that with proper identification and management of them, the therapeutic scope of these tools seems encouraging.(AU)