Desconfiança estètica i conflictes eticopolítics davant del repte de la intel·ligència artificial confiable: Una proposta il·lustrada amb casos cinematogràfics recents (2019-2023)

Autors/ores

Resum

El 2019, el Grup d’Experts sobre Intel·ligència Artificial, impulsat per la Comissió Europea (CE), va publicar Directrius ètiques per a una intel·ligència artificial fiable. Aquest document, juntament amb uns altres, pretén fonamentar les bases europees per a una intel·ligència artificial (IA) fiable. És a dir, una sèrie de condicions indispensables, principis ètics i estratègies que assenyalen el camí per assegurar un projecte europeu humanocèntric, alineat amb les necessitats i les expectatives dels éssers humans. En aquest article s’hi detecta que aquesta proposta es troba davant de dificultats relacionades amb la imatge essencialment negativa de la IA, que sorgeix de l’àmbit de la literatura (complex de Frankenstein), influeix en l’imaginari col·lectiu i es representa actualment en les arts audiovisuals. D’acord amb això, s’hi analitzen alguns casos recents amb l’objectiu d’establir-ne un diagnòstic i oferir-hi possibles solucions, qüestió que dificulta el camí ètic i polític que es pretén emprendre a l’espai europeu i que requereix una educació estètica profunda, de la qual actualment hi ha una carència sistèmica.

Paraules clau

cine, complex de Frankenstein, intel·ligència artificial, Unió Europea, art

Referències

ALFONSECA, Manuel; CEBRIÁN, Manuel; FERNÁNDEZ ANTA, Antonio; COVIELLO, Lorenzo; ABELIUK, Andrés; RAHWAN, Iyad (2021). «Superintelligence cannot be Contained: Lessons from Computability Theory». Journal of Artificial Intelligence Research, 70, 65-76.

ASIMOV, Isaac (2009). Yo, robot. Barcelona: Editora y Distribuidora Hispano Americana.

BALLÓ, Jordi y PÉREZ, Xabier (2010). La semilla inmortal. Barcelona: Anagrama.

BEAUCHAMP, Gorman (1980). «The Frankenstein Complex and Asimov’s Robots». Mosaic: A Journal for the Interdisciplinary Study of Literature, 13 (3/4), 83-94. Recuperado de http://www.jstor.org/stable/24780264

BIRD, James (Director) (2022). Wifelike [Película]. Estados Unidos: SP Media Group / Wonder Street.

BOEHM, Gottfried (ed.) (1994). Was ist ein Bild? Múnich: Fink.

BRYSON, Joanna J. y THEODOROU, Andreas (2019). «How society can maintain human-centric artificial intelligence». En: TOIVONEN-NORO, Marja Ireene y SAARI, Eveliina (eds.). Human-Centered Digitalization and Services. Singapur: Springer. https://doi.org/10.1007/978-981-13-7725-9_16

CAMERON, James (Director) (1984). Terminator [Película]. Estados Unidos: Hemdale, Pacific Western, Euro Film Funding.

COMISIÓN EUROPEA (2020). Libro blanco sobre la inteligencia artificial: Un enfoque europeo orientado a la excelencia y la confianza. Recuperado de https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52020DC0065

COMISIÓN EUROPEA (2021). Laying Down Harmonised Ruleson Artificial Intelligence (Artificial Intelligence Act, AIA) and Amending Certain Union Legislative Acts. Recuperado de https://artificialintelligenceact.eu/wp-content/uploads/2024/01/AI-Act-FullText.pdf

CONILL, Jesús (2006). Ética hermenéutica. Madrid: Tecnos.

COOK, S. D. Noam (2010). «Making the Technological Trustworthy». Knowledge, Technology & Policy, 23, 455-459. https://doi.org/10.1007/s12130-010-9126-4

CRAVEN, Wes (Director) (1996). Scream [Película]. Dimension Films / Woods Entertainment.

CUNNINGHAM, Sean S. (Director) (1980). Viernes 13 [Película]. Paramount Pictures / Georgetown Productions Inc. / Sean S. Cunningham Films.

DIERYCK BARRENA, Manuel (2023). «Inmersión en el problema del mito de Frankenstein». Análisis. Revista de Investigación Filosófica, 10 (1), 3-21. https://doi.org/10.26754/ojs_arif/arif.202316251

DIGNUM, Virginia (2019). Responsible Artificial Intelligence: How to Develop and Use AI in a Responsible Way. Cham: Springer.

EDWARDS, Gareth (Director) (2023). The Creator [Película]. Estados Unidos: 20th Century Studios.

EUBANKS, Virginia (2007). «Popular technology: Exploring inequality in the information economy». Science and Public Policy, 34 (2), 127-138. https://doi.org/10.3152/030234207X193592

FLORIDI, Luciano (2021). «Establishing the Rules for Building Trustworthy AI». En: FLORIDI, Luciano (eds.). Ethics, Governance, and Policies in Artificial Intelligence. Cham: Springer. https://doi.org/10.1007/978-3-030-81907-1_4

FLORIDI, Luciano; COWLS, Josh; BELTRAMETTI, Monica; CHATILA, Raja; CHAZERAND, Patricie; DIGNUM, Virginia; LUETGE, Cristoph; MADELIN, Robert; PAGALLO, Ugo; ROSSI, Francesca; SCHAFER, Burkhard; VALCKE, Peggy y VAYENA, Effy (2018). «AI4People–An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations». Minds and Machines, 28 (4), 689-707. https://doi.org/10.1007/s11023-018-9482-5

FUTURE OF LIFE INSTITUTE (2017). Asilomar AI Principles. Recuperado de https://futureoflife.org/open-letter/ai-principles/

GADAMER, Hans-Georg (1998). El giro hermenéutico. Madrid: Cátedra.

GARCÍA GUAL, Carlos (2022). Prometeo: El mito del dios rebelde y filántropo. Madrid: Turner.

GARLAND, Alex (Director) (2014). Ex Machina [Película]. Reino Unido: Universal Pictures International (UPI), Film4, DNA Films.

GRUPO DE EXPERTOS DE ALTO NIVEL SOBRE INTELIGENCIA ARTIFICIAL (2019a). Directrices éticas para una IA fiable. Recuperado de https://data.europa.eu/doi/10.2759/14078

GRUPO DE EXPERTOS DE ALTO NIVEL SOBRE INTELIGENCIA ARTIFICIAL (2019b). Recomendaciones de política e inversión para una IA fiable. Recuperado de https://digital-strategy.ec.europa.eu/en/library/policy-and-investment-recommendations-trustworthy-artificial-intelligence

HERNÁNDEZ DE LA FUENTE, David (2015). Mitología clásica. Madrid: Alianza.

JARAN, François (2021). El animal artificial. Madrid: Guillermo Escolar Editor.

JEUNET, Jean-Pierre (Director) (2022). Bigbug [Película]. Francia: Eskwad / Gaumont.

JIMÉNEZ GONZÁLEZ, Marcos (2019). «El robot en el cine: De la obediencia a la rebelión. Análisis de los imaginarios estéticos predominantes en el cine de ciencia ficción». En: URRACO SOLANILLA, Mariano y MARTÍNEZ MESA, Francisco José (eds.). De esclavos y robots y esclavas: Paisajes transmediáticos. Madrid: Libros de la Catarata.

JOHNSTONE, Gerard (Director) (2022). Megan [Película]. Estados Unidos / Nueva Zelanda: Atomic Monster / Blumhouse Productions.

KLEVBERG, Lars (Director) (2019). Muñeco diabólico [Película]. Canadá / Estados Unidos: KatzSmith Productions.

KUBRICK, Stanley (Director) (1968). 2001: Una odisea del espacio [Película]. Reino Unido y Estados Unidos: Metro-Goldwyn-Mayer (MGM) / Stanley Kubrick Productions.

LANG, Fritz (Director) (1927). Metrópolis [Película]. Alemania: Universum Film (UFA).

LARSON, Erick J. (2022). El mito de la inteligencia artificial: Por qué las máquinas no pueden pensar como nosotros lo hacemos. Barcelona: Shackleton Books.

LI, Bo; QI, Peng; LIU, Bo; DI, Shuai; LIU, Jingen; PEI, Jiquan; YI, Jinfeng y ZHOU, Bowen (2023). «Trustworthy AI: From Principles to Practices». ACM Computing Surveys, 55 (9), 1-46. https://doi.org/10.1145/3555803

LIANG, Weixin; ADEBE TADESSE, Girmaw; HO, Daniel; FEI-FEI, L.; ZAHARIA, Matei; ZHANG, Ce y ZOU, James (2022). «Advances, challenges and opportunities in creating data for trustworthy AI». Nature Machine Intelligence, 4, 669-677.

LÓPEZ SÁENZ, M.ª Carmen (2016). «La aplicación gadameriana de la phrónesis a la praxis». Contrastes: Revista Internacional de Filosofía, 6, 79-98. https://doi.org/10.24310/Contrastescontrastes.v0i0.1624

«Lo último que me preocuparía es una supuesta rebelión de las máquinas». Entrevista a Ramón López de Mántaras. CSIC (20 de diciembre de 2017). Recuperado de https://www.csic.es/es/ciencia-y-sociedad/iniciativas-de-divulgacion/historico-de-iniciativas-de-divulgacion/lo-ultimo-que-me-preocuparia-es-una-supuesta-rebelion-de-las-maquinas

MANOVICH, Lev y ARIELLI, Emanuele (2021). Artificial Aesthetics: A Critical Guide to AI, Media and Design. Manovich. Recuperado de http://manovich.net/index.php/projects/artificial-aesthetics

MASÍS GONZÁLEZ, Tadeo y CASTRO LÓPEZ, Roberto (2021). «Distopías y la rebelión de las máquinas: Sobre los tópicos del Cyberpunk». Pensamiento Actual, 21 (36), 131-138. https://doi.org/10.15517/pa.v21i36.47019

MCCORDUCK, Pamela (1991). Máquinas que piensan. Barcelona: Tecnos.

MILLER, Steven C. (Director) (2022). Margaux [Película]. Estados Unidos: Lighthouse Pictures.

MIRTES, Aaron (Director) (2020). Alpha Test [Película]. Estados Unidos: Exit 10 Films.

MITCHELL, William John Thomas (1994). Picture Theory. Chicago: University of Chicago Press.

MOLINUEVO, José Luis (2004). Humanismo y nuevas tecnologías. Madrid: Alianza.

MOROZOV, Evgeny (2016). La locura del solucionismo tecnológico. Buenos Aires: Katz Editores.

NICKEL, Philip J.; FRANSSEN, Maarten y KROES, Peter (2010). «Can We Make Sense of the Notion of Trustworthy Technology?». Knowledge, Technology & Policy, 23, 429-444.

NOWOTNY, Helga (2022). La fe en la inteligencia artificial: Los algoritmos predictivos y el futuro de la humanidad. Barcelona: Galaxia Gutenberg.

ORTEGA Y GASSET, José (2015). Meditación de la técnica: Ensimismamiento y alteración. Madrid: Biblioteca Nueva.

ORTIZ VILLETA, Áurea (2024). El arte de inventar la realidad. Valencia: Barlin Libros.

PASQUALE, Frank (2024). Las nuevas leyes de la robótica: Defender la experiencia humana en la era de la IA. Barcelona: Galaxia Gutenberg.

PITT, Joseph C. (2010). «It’s Not about Technology». Knowledge, Technology & Policy, 23, 445-454. https://doi.org/10.1007/s12130-010-9125-5

POST, Maaike y MULDER, Arjen (2000). Book for the Electronic Arts. Ámsterdam: Art Data.

PROYAS, Alex (Director) (2004). Yo, Robot [Película]. Estados Unidos, Alemania: Twentieth Century Fox, Mediastream Vierte Film GmbH & Co. Vermarktungs KG, Davis Entertainment.

RANCIERE, Jacques (2014). El reparto de lo sensible. Estética y política. Buenos Aires: Prometeo libros.

RIANDA, Michael y ROWE, Jeff (Directores) (2021). Los Mitchell contra las máquinas [Película]. Estados Unidos / Hong Kong / Canadá: Sony Pictures Animation / Columbia Pictures.

ROMELE, Alberto (2022). «Images of Artificial Intelligence: a Blind Spot in AI Ethics. Philosophy & Technology, 35, 4. https://doi.org/10.1007/s13347-022-00498-3

SAFFARI, Ehsan; HOSSEINI, Seyed Ramezan; TAHERI, Alireza y MEGHDARI, Ali (2021). «“Does cinema form the future of robotics?”: A survey on fictional robots in sci-fi movies». SN Applied Sciences, 3 (655), 1-13. https://doi.org/10.1007/s42452-021-04653-x

SANG-HO, Yeon (Director) (2023). Jung_E [Película]. Corea del Sur: Climax Studio.

SARTORI, Laura y THEODOROU, Andreas (2022). «A sociotechnical perspective for the future of AI: Narratives, inequalities, and a human control». Ethics and Information Technology, 24 (4), 1-11. https://doi.org/10.1007/s10676-022-09624-3

SCOTT, Ridley (Director) (1982). Blade Runner [película]. Estados Unidos: Warner Bros. Pictures.

SHELLEY, Mary W. (2011). Frankenstein, o el moderno Prometeo. Madrid: Alianza Editorial.

SKAUG SÆTRA, Henrik (2022). AI for the sustainable development goals. Boca Raton: CRC Press.

SWEET, Jesse (dir.) (2023). Lo desconocido: Los robots asesinos [Documental]. Estados Unidos: Netflix, Story Syndicate.

TERRONES RODRÍGUEZ, Antonio Luis y ROCHA BERNARDI, Mariana (2023). «El valor de la ética aplicada en los estudios de ingeniería en un horizonte de inteligencia artificial confiable». Sophia: Colección de Filosofía de la Educación, 36, 221-245. https://doi.org/10.17163/soph.n36.2024.07

TOMLIN, Mattson (Director) (2021). Madre / Androide [Película]. Estados Unidos: Miramax.

UNIVERSITÉ DE MONTRÉAL (2017). Montreal Declaration for a Responsible Development of AI. Recuperado de https://montrealdeclaration-responsibleai.com/the-declaration/

VALLEJO CAMPOS, Álvaro (2004). «El concepto aristotélico de prhónesis y la hermenéutica de Gadamer». En: ZÚÑIGA GARCÍA, José Francisco; SÁEZ RUEDA, Luis; PÉREZ TAPIAS, José Antonio; NICOLÁS MARÍN, Antonio y ACERO FERNÁNDEZ, Juan José (eds.). El legado de Gadamer. Granada: Editorial Universidad de Granada.

VAN WYNSBERGHE, Aimee (2021). «Sustainable AI: AI for sustainability and the sustainability of AI». AI Ethics, 1, 213-218. https://doi.org/10.1007/s43681-021-00043-6

VINUESA, Ricardo; AZIZPOUR, Hossein; LEITE, Iolanda; BALAAM, Madeline; DIGNUM, Virginia; DOMISCH, Sami; FELLÄNDER, Anna; LANGHANS, Simone Daniela; TEGMARK, Max y FUSO NERINI, Francesco (2020). «The role of artificial intelligence in achieving the Sustainable Development Goals». Nature Communications, 11, 1-10.

WACHOWSKI, Lana y WACHOWSKI, Lilly (Directoras) (1999). Matrix [Película]. Estados Unidos: Warner Bros. / Village Roadshow Pictures / Groucho Film Partnership.

WHALE, James (Director) (1931). El doctor Frankenstein [Película]. Estados Unidos: Universal Pictures.

ZENTNER, Gonzalo (2023). «¿Es posible una “rebelión de las máquinas”?: Qué respondió la Inteligencia Artificial». El Litoral (2 de abril). Recuperado de https://www.ellitoral.com/internet-y-tecnologia/video-viral-posible-rebelion-maquinas-inteligencia-artificial-chatgpt-respuestas-dudas-certezas-terminator-skynet-james-cameron-control-total_0_qqH7wUWeMP.html

Biografies de l'autor/a

Marcos Jiménez González, Universidad de Zaragoza

Marcos Jiménez González és graduat i doctor en Filosofia. Es va especialitzar en la branca d’Estètica i Teoria de les Arts, centrant-se en l’estètica del cinema, àmbit en el qual duu a terme la seva tasca docent i investigadora. El 2018 va publicar el seu primer llibre, Romanticismo, técnica y poder en la arquitectura de Albert Speer (Ápeiron), i el 2022 el segon, Fritz Lang y el expresionismo (Shangrila). Ha estat professor associat a la Universitat Rei Joan Carles (URJC) i col·laborador a la Universitat a Distància de Madrid (UDIMA), així com investigador postdoctoral Margarita Salas a la Universitat de Salamanca (USAL), contracte amb el qual va realitzar estades de recerca en l’Institut de Filosofia (IFS) del CSIC i a la Facultat de Filosofia de la Universitat Complutense de Madrid (UCM). Actualment és professor a la Universitat de Saragossa (UNIZAR), a la Unitat Predepartamental de Filosofia (Àrea d’Estètica i Teoria de les Arts).

Antonio Luis Terrones Rodríguez, Universidad Loyola Andalucía

Antonio Luis Terrones Rodríguez és professor i investigador a la Universitat Loyola Andalusia. És llicenciat en Filosofia per la Universitat de Múrcia, màster en Ètica i Democràcia per la Universitat de València i doctor en Filosofia per la Universitat de València. Les seves principals línies de recerca se centren en l’ètica aplicada a la intel·ligència artificial i en la filosofia de la tecnologia. Ha exercit la docència a la Pontifícia Universitat de l’Equador, a la Universitat de l’Havana i a la Universitat de Costa Rica, entre altres institucions acadèmiques. Entre les seves publicacions destaquen «Ética para la inteligencia artificial sostenible» (Arbor, 198 (806): a683) i «El valor de la ética aplicada en los estudios de ingeniería en un horizonte de inteligencia artificial confiable» (Sophia, Colección de Filosofía de la Educación, 36, 221-245).

DOI

https://doi.org/10.5565/rev/enrahonar.1575

Publicades

2024-07-25

Com citar

Jiménez González, M., & Terrones Rodríguez, A. L. (2024). Desconfiança estètica i conflictes eticopolítics davant del repte de la intel·ligència artificial confiable: Una proposta il·lustrada amb casos cinematogràfics recents (2019-2023). Enrahonar. An International Journal of Theoretical and Practical Reason, 73, 131–151. https://doi.org/10.5565/rev/enrahonar.1575

Descàrregues

Les dades de descàrrega encara no estan disponibles.

Funding data

Drets d'autor (c) 2024 Marcos Jiménez González, Antonio Luis Terrones Rodríguez

Creative Commons License

Aquesta obra està sota una llicència internacional Creative Commons Reconeixement 4.0.