El rol de la UNAM frente al país en el equilibrio de la balanza entre los peligros y beneficios de la inteligencia artificial

Autores/as

DOI:

https://doi.org/10.22201/dgtic.26832968e.2024.10.10

Palabras clave:

peligros, beneficios, inteligencia artificial, UNAM, México, cómputo

Resumen

En 2019, GPT-2 no podía contar de manera confiable hasta diez. Sólo cinco años después, los sistemas de inteligencia artificial (en adelante, IA) generativa pueden escribir software, asesorar sobre temas científicos y combinar el procesamiento de lenguaje e imagen para generar escenas fotorrealistas, acercándose más y más a la inteligencia de un humano. Tampoco cabe duda de que la IA encarna una dualidad de riesgos y beneficios para la sociedad. La pregunta importante, entonces, es qué significa en términos de consecuencias y qué se podría hacer a nivel de la Universidad Nacional para aprovechar los beneficios y tratar de gestionar los riesgos. El artículo tiene por objeto analizar el papel crucial que tiene la UNAM en el equilibrio de esta balanza, promoviendo un desarrollo y aplicación de la IA que sea ético, equitativo y lleno de beneficios para México y el mundo.

Descargas

Los datos de descargas todavía no están disponibles.

Biografía del autor/a

Carlos A. Coello Coello, Instituto Politécnico Nacional, Centro de Investigación y de Estudios Avanzados, Departamento de Computación

El Dr. Carlos A. Coello Coello cuenta con el doctorado en Ciencias de la Computación por la Universidad de Tulane, Luisiana, Estados Unidos. Actualmente es Investigador en el Centro de Investigación y de Estudios Avanzados del Instituto Politécnico Nacional, y su trabajo e investigación recaen en la intersección entre las ciencias computacionales, las matemáticas aplicadas y la investigación de operaciones. Es pionero y líder mundial en optimización evolutiva multiobjetivo, y autor de más de 190 artículos en revistas indexadas, 4 libros y 60 capítulos en libros. Sus aportaciones le han valido reconocimientos como el Premio Nacional de Investigación de la Academia Mexicana de Ciencias (2007), el Premio Nacional de Ciencias y Artes (2012), y en 2023 fue elegido miembro del Colegio Nacional de México.

Guy Paic, Universidad Nacional Autónoma de México, Instituto de Ciencias Nucleares.

El Dr. Guy Paic es profesor-investigador del Instituto de Ciencias Nucleares de la UNAM y cuenta con una trayectoria académica de más de 60 años, de los cuales 20 ha sido en México. Obtuvo el doctorado por la Universidad de Zagreb, Croacia (1964), y fue uno de los fundadores del experimento ALICE de la Organización Europea para la Investigación Nuclear (CERN). Ha realizado contribuciones fundamentales a la generación de nuevo conocimiento y formado varias generaciones de investigadores mexicanos. En 2019, en conjunto con la UNAM, el CERN y la Organización para la Cooperación y el Desarrollo Económicos, organizó el simposio internacional “Inteligencia artificial para la ciencia, la industria y la sociedad”, el cual continúa organizándose hasta la fecha. Ha sido distinguido por la Medalla de la División de Partículas y Campo que otorga la Sociedad Mexicana de Física (2017), y es investigador emérito del SNII del Conahcyt.

 

Leonid Serkin, Universidad Nacional Autónoma de México, Instituto de Ciencias Nucleares.

El Dr. Leonid Serkin cursó la licenciatura y la maestría en física en la UNAM, y posteriormente, recibió una beca Conacyt-DAAD para realizar los estudios de doctorado en la Universidad de Göttingen, Alemania, graduándose en 2016. Actualmente, es investigador posdoctoral por México del Conahcyt en el Instituto de Ciencias Nucleares de la UNAM, e investigador nacional nivel I del SNII. Cuenta con más de 17 años de experiencia en el análisis de petabytes de datos provenientes de la Organización Europea para la Investigación Nuclear (CERN). Es coautor de más de 1100 artículos publicados como miembro científico de las colaboraciones ALICE y ATLAS del CERN, en los cuales ha desarrollado novedosos métodos de aprendizaje profundo para tareas de clasificación, reconstrucción, calibración e identificación.

Citas

Amazon Alexa, "What Is Conversational AI?" 2024. [En línea]. Disponible en: https://developer.amazon.com/en-US/alexa/alexa-skills-kit/conversational-ai.

Netflix Research, "Machine Learning" 2024. [En línea]. Disponible en: https://research.netflix.com/research-area/machine-learning.

Samsung SDS. "Vision API" 2024. [En línea]. Disponible en: https://www.samsungsds.com/en/ai-vision-api/vision-api.html.

T. B. Brown, B. Mann, N. Ryder, M. Subbiah, J. Kaplan, P. Dhariwal, A. Neelakantan, P. Shyam, G. Sastry, A. Askell, S. Agarwal, A. Herbert-Voss, G. Krueger, T. Henighan, R. Child, A. Ramesh, D. M. Ziegler, J. Wu, C. Winter, et al., "Language Models are Few-Shot Learners," 2020. [En línea]. Disponible en: https://doi.org/10.48550/arXiv.2005.14165.

J. Wei, Y. Tay, R. Bommasani, C. Raffel, B. Zoph, S. Borgeaud, D. Yogatama, M. Bosma, D. Zhou, D. Metzler, E. H. Chi, T. Hashimoto, O. Vinyals, P. Liang, J. Dean, y W. Fedus, "Emergent abilities of large language models," 2022. [En línea]. Disponible en: https://doi.org/10.48550/arXiv.2206.07682.

L. Wang, C. Ma, X. Feng, Z. Zhang, H. Yang, J. Zhang, Z. Chen, J. Tang, X. Chen, Y. Lin, W. X. Zhao, Z. Wei, y J.-R. Wen, "A Survey on Large Language Model based Autonomous Agents," 2023. [En línea]. Disponible en: https://doi.org/10.48550/arXiv.2308.11432.

Gobierno de los EE. UU., "Artificial Intelligence and Future of Teaching and Learning: Insights and Recommendations," U.S. Department of Education, Office of Educational Technology, 2023. [En línea]. Disponible en: https://www2.ed.gov/documents/ai-report/ai-report.pdf.

University of Florida, "Artificial Intelligence," 2024. [En línea]. Disponible en: https://ai.ufl.edu.

The New England Journal of Medicine, "Review article series: AI in Medicine," 2024. [En línea]. Disponible en: https://www.nejm.org/ai-in-medicine.

R. Lam, A. Sanchez-Gonzalez, M. Willson, P. Wirnsberger, M. Fortunato, F. Alet, S. Ravuri, T. Ewalds, Z. Eaton-Rosen, W. Hu, A. Merose, S. Hoyer, G. Holland, O. Vinyals, J. Stott, A. Pritzel, S. Mohamed, y P. Battaglia, "Learning skillful medium-range global weather forecasting," *Science*, vol. 382, no. 6677, pp. 1416-1421, 2023. [En línea]. Disponible en: https://doi.org/10.1126/science.adi2336.

Unión Europea, "Reglamento general de protección de datos," Diario Oficial de la Unión Europea, 2016. [En línea]. Disponible en: https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:32016R0679.

M. Abadi, A. Agarwal, P. Barham, E. Brevdo, Z. Chen, C. Citro, G. S. Corrado, A. Davis, J. Dean, M. Devin, S. Ghemawat, I. Goodfellow, A. Harp, G. Irving, M. Isard, R. Jozefowicz, Y. Jia, L. Kaiser, M. Kudlur, … X. Zheng, "TensorFlow: Large-scale machine learning on heterogeneous systems," 2015. [En línea]. Disponible en: https://www.tensorflow.org.

A. Paszke, S. Gross, F. Massa, A. Lerer, J. Bradbury, G. Chanan, T. Killeen, Z. Lin, N. Gimelshein, L. Antiga, A. Desmaison, A. Köpf, E. Yang, Z. DeVito, M. Raison, A. Tejani, S. Chilamkurthy, B. Steiner, L. Fang, J. Bai, y S. Chintala, "PyTorch: An Imperative Style, High-Performance Deep Learning Library," 2019. [En línea]. Disponible en: https://doi.org/10.48550/arXiv.1912.01703.

M. Chen, J. Tworek, H. Jun, Q. Yuan, H. Ponde de Oliveira Pinto, J. Kaplan, H. Edwards, Y. Burda, N. Joseph, G. Brockman, A. Ray, R. Puri, G. Krueger, M. Petrov, H. Khlaaf, G. Sastry, P. Mishkin, B. Chan, ..., W. Zaremba, "Evaluating Large Language Models Trained on Code," 2021. [En línea]. Disponible en: https://doi.org/10.48550/arXiv.2107.03374.

Nvidia, "High-Performance Computing and Artificial Intelligence," Nvidia Corporation, 2024. [En línea]. Disponible en: https://www.nvidia.com/en-us/high-performance-computing/hpc-and-ai/.

Y. Bai, S. Kadavath, S. Kundu, A. Askell, J. Kernion, A. Jones, A. Chen, A. Goldie, A. Mirhoseini, C. McKinnon, C. Chen, C. Olsson, C. Olah, D. Hernandez, D. Drain, D. Ganguli, D. Li, E. Tran-Johnson, E. Perez, ... J. Kaplan, "Constitutional AI: Harmlessness from AI Feedback," 2022. [En línea]. Disponible en: https://doi.org/10.48550/arXiv.2307.16338.

Y. Bengio, G. Hinton, A. Yao, D. Song, P. Abbeel, Y. N. Harari, Y.-Q. Zhang, L. Xue, S. Shalev-Shwartz, G. Hadfield, J. Clune, T. Maharaj, F. Hutter, A. G. Baydin, S. McIlraith, Q. Gao, A. Acharya, D. Krueger, A. Dragan, ..., S. Mindermann, "Managing AI Risks in an Era of Rapid Progress," 2023. [En línea]. Disponible en: https://doi.org/10.48550/arXiv.2310.17688.

I. Asimov, "Strange playfellow," *Super Science Stories*, vol. 1, no. 4, pp. 67-77, 1940.

R. Ngo, L. Chan, y S. Mindermann, "The alignment problem from a deep learning perspective," 2023. [En línea]. Disponible en: https://doi.org/10.48550/arXiv.2209.00626.

P. P. Ray, "ChatGPT: A comprehensive review on background, applications, key challenges, bias, ethics, limitations and future scope," *Internet of Things and Cyber-Physical Systems*, vol. 3, pp. 121-154, 2023. [En línea]. Disponible en: https://doi.org/10.1016/j.iotcps.2023.04.003.

A. Turchin y D. Denkenberger, "Classification of Global Catastrophic Risks Connected with Artificial Intelligence," *AI and Society*, vol. 35, no. 1, pp. 147–163, 2020. [En línea]. Disponible en: https://doi.org/10.1007/s00146-018-0845-5.

J. Achiam, S. Adler, S. Agarwal, L. Ahmad, I. Akkaya, F. L. Aleman, D. Almeida, J. Altenschmidt, S. Altman, S. Anadkat, R. Avila, I. Babuschkin, S. Balaji, V. Balcom, P. Baltescu, H. Bao, M. Bavarian, J. Belgum, I. Bello, J. Berdine, ... B. Zoph, "GPT-4 Technical Report," 2023. [En línea]. Disponible en: https://doi.org/10.48550/arXiv.2303.08774.

Y. Bengio, "AI and Catastrophic Risk," *Journal of Democracy*, vol. 34, no. 4, pp. 111-121, 2023. [En línea]. Disponible en: https://doi.org/10.1353/jod.2023.a907692.

Future of Life Institute, "The Asilomar AI Principles," 2017. [En línea]. Disponible en: https://futureoflife.org/open-letter/ai-principles.

Université de Montréal, "Declaración de Montreal para un Desarrollo Responsable de la Inteligencia Artificial," 2018. [En línea]. Disponible en: https://declarationmontreal-iaresponsable.com/wp-content/uploads/2023/01/ES-UdeM_Decl-IA-Resp_LA-Declaration_v4.pdf.

OCDE, "Recommendation of the Council on Artificial Intelligence," Organisation for Economic Co-operation and Development (OCDE), 2019. [En línea]. Disponible en: https://one.oecd.org/document/C/MIN(2019)3/FINAL/en/pdf.

UNESCO, "Recomendación sobre la ética de la inteligencia artificial," Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO), 2021. [En línea]. Disponible en: https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa.

UNICEF, "Orientación de políticas sobre el uso de la inteligencia artificial en favor de la infancia," Fondo de las Naciones Unidas para la Infancia (UNICEF), 2021. [En línea]. Disponible en: https://www.unicef.org/globalinsight/media/2636/file/UNICEF-Global-Insight-policy-guidance-AI-children-2.0-2021_ES.pdf.

OCDE, "Estudios de la Organización para la Cooperación y el Desarrollo Económicos (OCDE) sobre el uso estratégico y responsable de la inteligencia artificial en el sector público de América Latina y el Caribe," 2022. [En línea]. Disponible en: https://oecd-opsi.org/wp-content/uploads/2022/09/IA-ALC-Report.pdf.

Gobierno de Argentina, "Plan Nacional de Inteligencia Artificial," Presidencia de la Nación, Secretaría de Ciencia, Tecnología e Innovación Productiva, 2019. [En línea]. Disponible en: https://oecd-opsi.org/wp-content/uploads/2021/02/Argentina-National-AI-Strategy.pdf.

Gobierno de Brasil, "Estrategia Brasileña de Inteligencia Artificial," Ministerio de Ciencia, Tecnología e Innovación, 2021. [En línea]. Disponible en: https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/transformacaodigital/inteligencia-artificial.

Gobierno de Chile, "Política Nacional de Inteligencia Artificial," Ministerio de Ciencia, Tecnología, Conocimiento e Innovación, 2021. [En línea]. Disponible en: https://minciencia.gob.cl/uploads/filer_public/bc/38/bc389daf-4514-4306-867c-760ae7686e2c/documento_politica_ia_digital_.pdf.

Estado Peruano, "Estrategia Nacional de Inteligencia Artificial para el periodo 2021-2026," Secretaría de Gobierno y Transformación Digital, 2021. [En línea]. Disponible en: https://cdn.www.gob.pe/uploads/document/file/1899077/Estrategia%20Nacional%20de%20Inteligencia%20Artificial.pdf.

OpenAI, "ChatGPT. Large language model," 2023. [En línea]. Disponible en: https://chat.openai.com/chat.

Future of Life Institute, "Open Letter: Pause Giant AI Experiments," 2023. [En línea]. Disponible en: https://futureoflife.org/open-letter/pause-giant-ai-experiments.

M. Hanna, O. Liu, y A. Variengien, "How does GPT-2 compute greater-than?: Interpreting mathematical abilities in a pre-trained language model," 2023. [En línea]. Disponible en: https://doi.org/10.48550/arXiv.2305.00586.

ONU, "Creación del Consejo Consultivo que se enfocará en analizar y promover recomendaciones para la gobernanza internacional de la inteligencia artificial," Organización de las Naciones Unidas (ONU), 2023. [En línea]. Disponible en: https://news.un.org/es/story/2023/10/1525252.

G. Sastry, L. Heim, H. Belfield, M. Anderljung, M. Brundage, J. Hazell, C. O'Keefe, G. K. Hadfield, R. Ngo, K. Pilz, G. Gor, E. Bluemke, S. Shoker, J. Egan, R. F. Trager, S. Avin, A. Weller, Y. Bengio, y D. Coyle, "Computing Power and the Governance of Artificial Intelligence," 2024. [En línea]. Disponible en: https://doi.org/10.48550/arXiv.2402.08797.

J. Cameron y W. Wisher, "Terminator 2: Judgment Day," TriStar Pictures, 1991. [En línea]. Disponible en: https://www.sonypictures.com/.

Gobierno de México, "Estrategia de Inteligencia Artificial de México 2018," Presidencia de la República, 2018. [En línea]. Disponible en: https://www.gob.mx/epn/articulos/estrategia-de-inteligencia-artificial-mx-2018.

ISO, "ISO/IEC JTC 1/SC 42 Artificial Intelligence," International Organization for Standardization (ISO), 2018. [En línea]. Disponible en: https://www.iso.org/es/contents/data/committee/67/94/6794475.html?view=participation.

Gobierno de México, "Declaración Conjunta de los miembros fundadores de la Alianza Global sobre la Inteligencia Artificial," Secretaría de Relaciones Exteriores, 2020. [En línea]. Disponible en: https://www.gob.mx/sre/prensa/declaracion-conjunta-de-los-miembros-fundadores-de-la-alianza-global-sobre-la-inteligencia-artificial.

GPAI, "2023 Ministerial Declaration," Global Partnership on Artificial Intelligence (GPAI), 2023. [En línea]. Disponible en: https://gpai.ai/2023-GPAI-Ministerial-Declaration.pdf.

CEPAL, "IA para el desarrollo sostenible de América Latina: Lanzamiento del primer Índice Latinoamericano de Inteligencia Artificial," Comisión Económica para América Latina y el Caribe (CEPAL), 2023. [En línea]. Disponible en: https://www.cepal.org/es/eventos/ia-desarrollo-sostenible-america-latina-lanzamiento-primer-indice-latinoamericano.

CENIA, "Índice Latinoamericano de IA elaborado por el Centro Nacional de Inteligencia Artificial de Chile (CENIA). Ficha de México," 2023. [En línea]. Disponible en: https://indicelatam.cl/wp-content/uploads/2023/08/CAP-G-MEXICO.pdf.

IFT, "Recomendaciones que emite el Consejo Consultivo del IFT para implementar en su ámbito de competencia la recomendación sobre la ética de la inteligencia artificial de la UNESCO," Instituto Federal de Telecomunicaciones (IFT), 2023. [En línea]. Disponible en: https://www.ift.org.mx/sites/default/files/ag_ii-5_recomendacion_inteligenica_artificial_cci_acc.pdf.

Gobierno de México, "Iniciativa de Ley Federal de Ciberseguridad," Cámara de Diputados LXV Legislatura, Gaceta Parlamentaria, 2023. [En línea]. Disponible en: https://www.diputados.gob.mx/LeyesBiblio/iniclave/65/CD-LXV-II-2P-292/02_iniciativa_292_25abr23.pdf.

Gobierno de México, "Iniciativa de Ley de Regulación Ética de la Inteligencia Artificial y la Robótica," Cámara de Diputados LXV Legislatura, Gaceta Parlamentaria, 2023b. [En línea]. Disponible en: https://www.senado.gob.mx/65/gaceta_comision_permanente/documento/135000.

L. Ho, J. Barnhart, R. Trager, Y. Bengio, M. Brundage, A. Carnegie, R. Chowdhury, A. Dafoe, G. Hadfield, M. Levi, y D. Snidal, "International Institutions for Advanced AI," 2023. [En línea]. Disponible en: https://doi.org/10.48550/arXiv.2307.04699.

UNESCO, "ChatGPT e Inteligencia Artificial en la educación superior: Guía de inicio rápido," Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO), 2023. [En línea]. Disponible en: https://unesdoc.unesco.org/ark:/48223/pf0000385146_spa.locale=es.

Universidad Carlos III de Madrid, "Recomendaciones para la docencia con inteligencias artificiales generativas," Vicerrectorado de Infraestructuras, 2023. [En línea]. Disponible en: https://e-archivo.uc3m.es/entities/publication/e560161f-44a3-43f5-9a4e-5175a052c2ec.

UNAM, "Recomendaciones para el uso de la inteligencia artificial generativa en la docencia," Universidad Nacional Autónoma de México, 2023b. [En línea]. Disponible en: https://iagenedu.unam.mx/docs/recomendaciones_uso_iagen_docencia_unam_2023.pdf.

Z. Swiecki, H. Khosravi, G. Chen, R. Martinez-Maldonado, J. M. Lodge, S. Milligan, N. Selwyn, y D. Gašević, "Assessment in the age of artificial intelligence," Computers and Education: Artificial Intelligence, vol. 3, p. 100075, 2022. [En línea]. Disponible en: https://doi.org/10.1016/j.caeai.2022.100075.

UNAM, "Ofrece el LAMOD nuevas posibilidades para la investigación," Gaceta de la Universidad Nacional Autónoma de México, 2023a. [En línea]. Disponible en: https://www.gaceta.unam.mx/la-unam-con-gran-potencial-en-proyectos-de-frontera.

UNAM, "Lineamientos generales y políticas sobre almacenamiento e información compartida entre los sistemas existentes," Universidad Nacional Autónoma de México, 2021b. [En línea]. Disponible en: https://www.red-tic.unam.mx/recursos/2021/2021_Lineamiento_RedResponsablesTIC_01.pdf.

Gobierno de Reino Unido, "Cumbre de Seguridad de la IA 2023: Declaración Bletchley," 2023. [En línea]. Disponible en: https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration.

UNAM, "Alianza para promover el Desarrollo de Capacidades Digitales en México," Universidad Nacional Autónoma de México, 2021a. [En línea]. Disponible en: https://alianza.unam.mx/.

M. J. Santos Corral, R. de Gortari Rabiela, y M. Lopátegui, "Construir vinculación desde la Inteligencia Artificial: Análisis de una alianza interinstitucional," Entreciencias: diálogos en la sociedad del conocimiento, vol. 11, no. 25, p. e2584175, 2023. [En línea]. Disponible en: https://doi.org/10.22201/enesl.20078064e.2023.25.84175.

UNAM, "Acuerdo por el que se establecen los Lineamientos para la Integración, Conformación y Registro de los Comités de Ética en la Universidad Nacional Autónoma de México," Gaceta UNAM, 2019a. [En línea]. Disponible en: https://www.gaceta.unam.mx/wp-content/uploads/2019/10/190829-Convocatorias.pdf.

Gobierno de México, Secretaría de Salud, Comisión Nacional de Bioética, "Bioética e inteligencia artificial," 2023c. [En línea]. Disponible en: https://www.gob.mx/cms/uploads/attachment/file/846953/gaceta48_final_completa__3_.pdf.

UNAM, "Expertos debaten en la UNAM retos y alcances de la inteligencia artificial," Boletín UNAM-DGCS-746, Universidad Nacional Autónoma de México, 2019b. [En línea]. Disponible en: https://www.dgcs.unam.mx/boletin/bdboletin/2019_746.html.

A3D3 Institute, "About A3D3," Accelerated AI Algorithms for Data-Driven Discovery (A3D3) Institute, 2023. [En línea]. Disponible en: https://a3d3.ai/about/.

MILA, "Quebec AI Institute (Montreal Institute for Learning Algorithms)," 2024. [En línea]. Disponible en: https://mila.quebec/en/mila/.

Ilustración que muestra la mitad del rostro de dos robots, entre ellos el texto UNAM escrito en forma vertical.

Descargas

Publicado

21/06/24 (12:00)

Cómo citar

Coello Coello, C. A., Paic, G., & Serkin, L. (2024). El rol de la UNAM frente al país en el equilibrio de la balanza entre los peligros y beneficios de la inteligencia artificial. TIES, Revista De Tecnología E Innovación En Educación Superior, (10), 72–85. https://doi.org/10.22201/dgtic.26832968e.2024.10.10

Número

Núm. 10 (2024): Retos y avances de la inteligencia artificial en la investigación y gobierno de las instituciones de educación superior

Sección

Artículos

Licencia

Derechos de autor 2024 TIES, Revista de Tecnología e Innovación en Educación Superior

Creative Commons License

Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial 4.0.

TIES, Revista de Tecnología e Innovación en Educación Superior, es una publicación semestral de acceso abierto bajo la licencia Creative Commons Atribución-No Comercial 4.0 Internacional (CC BY-NC 4.0). 

ISSN 22683-2968 • © 2024 Universidad Nacional Autónoma de México. TIES, Revista de Tecnología e Innovación en Educación Superior es editada por la Universidad Nacional Autónoma de México a través de la Dirección General de Cómputo y de Tecnologías de Información y Comunicación (DGTIC).  Circuito exterior s/n, Ciudad Universitaria, Alcaldía Coyoacán, C.P. 04510, Ciudad de México, México • Reserva de Derechos de Autor otorgado por INDAUTOR: 04-2019-011816190900-203.

El contenido de los artículos es responsabilidad de los autores y no refleja el punto de vista del Comité editorial, del Editor o de la Universidad Nacional Autónoma de México. Hecho en México, 2024.