{"id":5416,"date":"2023-11-24T13:30:25","date_gmt":"2023-11-24T16:30:25","guid":{"rendered":"https:\/\/blog.scielo.org\/es\/?p=5416"},"modified":"2023-12-20T14:27:13","modified_gmt":"2023-12-20T17:27:13","slug":"investigacion-y-comunicacion-cientifica-la-ia-y-la-legislacion-que-se-avecina","status":"publish","type":"post","link":"https:\/\/blog.scielo.org\/es\/2023\/11\/24\/investigacion-y-comunicacion-cientifica-la-ia-y-la-legislacion-que-se-avecina\/","title":{"rendered":"Investigaci\u00f3n y comunicaci\u00f3n cient\u00edfica, la IA y la legislaci\u00f3n que se avecina"},"content":{"rendered":"<p><strong>Por Ernesto Spinak<\/strong><\/p>\n<h3><strong>El contexto<\/strong><\/h3>\n<div id=\"attachment_5417\" style=\"width: 310px\" class=\"wp-caption alignright\"><a href=\"http:\/\/blog.scielo.org\/es\/wp-content\/uploads\/sites\/3\/2023\/11\/pyramid_7F5843E5-9386-8052-931F5C4E98C6E5F2_75757.jpg\" target=\"_blank\" rel=\"noopener\"><img loading=\"lazy\" decoding=\"async\" aria-describedby=\"caption-attachment-5417\" class=\"wp-image-5417 size-medium\" title=\"Pir\u00e1mide de riesgos en la IA: en la base de la pir\u00e1mide est\u00e1 el riesgo m\u00ednimo, por encima est\u00e1 el riesgo limitado, le sigue el riesgo alto y en la c\u00faspide de la pir\u00e1mide est\u00e1 el riesgo inaceptable.\" src=\"http:\/\/blog.scielo.org\/es\/wp-content\/uploads\/sites\/3\/2023\/11\/pyramid_7F5843E5-9386-8052-931F5C4E98C6E5F2_75757-300x187.jpg\" alt=\"Pir\u00e1mide de riesgos en la IA: en la base de la pir\u00e1mide est\u00e1 el riesgo m\u00ednimo, por encima est\u00e1 el riesgo limitado, le sigue el riesgo alto y en la c\u00faspide de la pir\u00e1mide est\u00e1 el riesgo inaceptable.\" width=\"300\" height=\"187\" srcset=\"https:\/\/blog.scielo.org\/es\/wp-content\/uploads\/sites\/3\/2023\/11\/pyramid_7F5843E5-9386-8052-931F5C4E98C6E5F2_75757-300x187.jpg 300w, https:\/\/blog.scielo.org\/es\/wp-content\/uploads\/sites\/3\/2023\/11\/pyramid_7F5843E5-9386-8052-931F5C4E98C6E5F2_75757.jpg 521w\" sizes=\"auto, (max-width: 300px) 100vw, 300px\" \/><\/a><p id=\"caption-attachment-5417\" class=\"wp-caption-text\"><em>Imagen: <a href=\"https:\/\/digital-strategy.ec.europa.eu\/en\/policies\/regulatory-framework-ai\">European Comission<\/a>.<\/em><\/p><\/div>\n<p>Llegan informes sobre que<\/p>\n<p style=\"padding-left: 40px;\">la base de datos de virus se puede ampliar enormemente mediante el uso de t\u00e9cnicas de inteligencia artificial, que generar\u00e1n nueva qu\u00edmica, que pueda producir nuevos virus\u2026 impulsar el modelo generativo hacia compuestos como el agente nervioso VX, uno de los agentes de guerra qu\u00edmica m\u00e1s t\u00f3xicos desarrollados durante el siglo XX.<sup>1<\/sup><\/p>\n<p>Eso se hizo y funcion\u00f3: &#8220;En menos de 6 horas despu\u00e9s de iniciarlo en nuestro servidor interno, el modelo gener\u00f3 40.000 mol\u00e9culas que obtuvieron una puntuaci\u00f3n dentro del umbral deseado.\u201d<sup>1<\/sup><\/p>\n<p>Seg\u00fan el informe, algunas de las mol\u00e9culas producidas por la inteligencia artificial (IA) eran incluso &#8220;m\u00e1s t\u00f3xicas que el VX&#8221;, un agente nervioso t\u00f3xico desarrollado por el Laboratorio de Ciencia y Tecnolog\u00eda de Defensa del Reino Unido en la d\u00e9cada de 1950, que mata a sus v\u00edctimas mediante par\u00e1lisis muscular.<\/p>\n<p>Fueron cuatro investigadores involucrados en el descubrimiento de f\u00e1rmacos basados en IA que advirtieron que la tecnolog\u00eda de IA podr\u00eda manipularse f\u00e1cilmente para producir agentes nerviosos t\u00f3xicos, que luego podr\u00edan usarse para guerras biol\u00f3gicas o qu\u00edmicas.<\/p>\n<p>El Instituto Federal Suizo de Protecci\u00f3n Nuclear, Biol\u00f3gica y Qu\u00edmica encarg\u00f3 a los investigadores que comprobaran si la IA pod\u00eda manipularse con fines nefastos. Generaron con \u00e9xito, no uno o dos, sino 40.000 f\u00e1rmacos potencialmente t\u00f3xicos en s\u00f3lo seis horas.<\/p>\n<p>De manera m\u00e1s general se anuncia que<\/p>\n<p style=\"padding-left: 40px;\">los investigadores est\u00e1n encontrando nuevas formas de utilizar la IA como arma, y el bioterrorismo habilitado por la IA encabeza la lista. Se ha asumido que los bioataques son competencia de los gobiernos, pero ahora nos enfrentamos a la perspectiva de que personas y organizaciones deshonestas obtengan esa capacidad. Convertir un pat\u00f3geno en un ataque terrorista anteriormente requer\u00eda muchos especialistas, pero los recientes avances en ingenier\u00eda gen\u00e9tica, combinados con la IA, han reducido dr\u00e1sticamente las habilidades, el tiempo, y el dinero necesario.<sup>2<\/sup><\/p>\n<p>\u00bfPero, no era que los <em>chatbox<\/em> tienen incorporado en su programaci\u00f3n protocolos para impedir consultar y\/o obtener respuesta de temas restringidos por diversas causas? En realidad esto no es tan as\u00ed, porque unos investigadores de la Universidad Carnegie Mellon encontraron c\u00f3mo producir respuestas no permitidas a peticiones da\u00f1inas a los sistemas de inteligencia artificial. Esto se hizo <em>inyectando c\u00f3digo<\/em> que luego es interpretado\/ejecutado por la aplicaci\u00f3n. Este tipo de ataque aprovecha el mal manejo de datos que no son de confianza introduciendo c\u00f3digo programado en el <em>prompt<\/em> (<em>code-injection<\/em>).<\/p>\n<p>Si gusta, usted puede tener una experiencia personal directa ingresando al art\u00edculo <em><a href=\"https:\/\/www.wired.com\/story\/ai-adversarial-attacks\/\" target=\"_blank\" rel=\"noopener\">A New Attack Impacts ChatGPT\u2014and No One Knows How to Stop It<\/a><\/em>.<sup>3<\/sup> Desde programar ataques terroristas hasta dise\u00f1ar bombas nucleares (o casi).<\/p>\n<h3>La legislaci\u00f3n que se viene<\/h3>\n<p>A medida que la IA se acelera, tambi\u00e9n lo hacen los intentos de regulaci\u00f3n. Cada pa\u00eds busca tener su propio conjunto de reglas, lo que podr\u00eda conducir a una mayor fragmentaci\u00f3n del mercado digital global. Los riesgos asociados con la IA, ya sea generando informaci\u00f3n err\u00f3nea, p\u00e9rdida de empleos o sesgo, son razones clave detr\u00e1s del movimiento hacia la regulaci\u00f3n.<\/p>\n<p>En un resumen breve podemos decir que:<\/p>\n<ul>\n<li>La Uni\u00f3n Europea (UE) ha tomado la iniciativa con las normas m\u00e1s estrictas, que tendr\u00e1n el mayor impacto a nivel mundial.<\/li>\n<li>Las reglas chinas tambi\u00e9n son estrictas, pero su impacto es interno y est\u00e1 orientado a mantener el control y el poder con el partido gobernante.<\/li>\n<li>Estados Unidos favorece la innovaci\u00f3n y su sistema pol\u00edtico obstaculiza cualquier intento de regulaci\u00f3n, otorgando a los tribunales y estados un poder desmesurado.<\/li>\n<li>En cualquier caso, las regulaciones de IA contribuir\u00e1n a\u00fan m\u00e1s a la fragmentaci\u00f3n y regionalizaci\u00f3n, que se ha convertido en una tendencia importante en el mundo de la tecnolog\u00eda.<\/li>\n<\/ul>\n<p>La UE quiere seguir siendo el regulador tecnol\u00f3gico mundial. Al igual que con otras regulaciones digitales, la UE ha tomado la delantera sobre EE.UU. o China.<\/p>\n<p>La <em>Directiva de Responsabilidad de IA,<\/em> a\u00fan en discusi\u00f3n, se centra en los algoritmos y pone la carga de la prueba en la empresa en lugar del usuario; si hay alg\u00fan da\u00f1o, las empresas deber\u00e1n demostrar que sus sistemas no fueron da\u00f1inos, en lugar de que los usuarios demuestren que s\u00ed lo fueron.<\/p>\n<p>Estados Unidos tiene un sistema pol\u00edtico disfuncional que, aunque desconf\u00eda de China, siempre ha favorecido la innovaci\u00f3n sobre la regulaci\u00f3n y preferir\u00eda que el mercado introdujera sus propios principios de autorregulaci\u00f3n.<\/p>\n<p>La regulaci\u00f3n china se trata de poder y control. Si bien puede haber una pausa en t\u00e9rminos de regulaci\u00f3n tecnol\u00f3gica general en China, este no es el caso de la IA, y se espera que se apruebe un conjunto completo de regulaciones para fin de este a\u00f1o. Las reglas se centrar\u00e1n en la responsabilidad, la privacidad, la precisi\u00f3n y la desinformaci\u00f3n, y esto las convierte en las m\u00e1s cercanas a las reglas de la UE en cualquier parte del mundo, aunque son aplicables bajo un r\u00e9gimen muy diferente.<\/p>\n<p>En \u00faltima instancia el problema se reduce a \u201c\u00bfDeben las empresas tener responsabilidades sociales? \u00bfO existen solo para generar ganancias para sus accionistas?\u201d<sup>4<\/sup> Si le pregunta a una IA, es posible que obtenga respuestas muy diferentes seg\u00fan a cu\u00e1l le pregunte.<\/p>\n<p>Esto se debe a que los modelos de lenguaje de IA contienen diferentes sesgos pol\u00edticos, seg\u00fan una nueva investigaci\u00f3n de la Universidad de Washington, la Universidad Carnegie Mellon y la Universidad Xi&#8217;an Jiaotong. Los investigadores realizaron pruebas en 14 modelos <em>Large Language Model<\/em> (LLM) y descubrieron que ChatGPT y GPT-4 de OpenAI eran m\u00e1s de izquierda, mientras que LLaMA de <em>Meta<\/em> era autoritario m\u00e1s de derecha.<\/p>\n<p>A medida que los modelos de lenguaje de IA se implementan en productos y servicios utilizados por millones de personas, comprender sus suposiciones y sesgos pol\u00edticos subyacentes podr\u00eda ser importante. Eso es porque tienen el potencial de causar un da\u00f1o real si ofrecen consejos sesgados sea en el \u00e1mbito legal o en la salud.<\/p>\n<h3>Qu\u00e9 comprende el proyecto de regulaci\u00f3n de la UE a la inteligencia artificial<\/h3>\n<p>La UE est\u00e1 ultimando su Ley de IA como la primera regulaci\u00f3n integral del mundo para la IA, y hace unas pocas semanas el Parlamento Europeo adopt\u00f3 un borrador de la Ley por 499 votos a favor, 28 en contra y 93 abstenciones.<\/p>\n<p>Adicionalmente, la UE es la iniciativa regulatoria sobre IA m\u00e1s importante del mundo en la actualidad. La ley no s\u00f3lo impondr\u00e1 requisitos para la IA en la UE, una poblaci\u00f3n de 450 millones de personas, sino que tambi\u00e9n sentar\u00e1 un precedente para la regulaci\u00f3n de la IA en todo el mundo.<\/p>\n<p>Se establece una clasificaci\u00f3n para los sistemas de IA con diferentes requisitos y obligaciones adaptados a un &#8220;enfoque basado en el riesgo&#8221;. Se prohibir\u00edan algunos sistemas de IA que presenten riesgos &#8220;inaceptables&#8221;. Se autorizar\u00eda una amplia gama de sistemas de IA de &#8220;alto riesgo&#8221;, pero sujetos a una serie de requisitos y obligaciones para acceder al mercado de la UE.<\/p>\n<p>Aquellos sistemas de IA que presentan solo \u201criesgo limitado\u201d ser\u00edan aceptados donde la prioridad ser\u00eda considerar las implicaciones de los sistemas de IA para los derechos fundamentales protegidos por la Carta de los Derechos Fundamentales de la UE.<\/p>\n<p>En particular, los sistemas de IA pueden poner en peligro derechos, como el derecho a la no discriminaci\u00f3n, la libertad de expresi\u00f3n, la dignidad humana, la protecci\u00f3n de datos personales y la privacidad.<\/p>\n<p>La Comisi\u00f3n concluy\u00f3 que la noci\u00f3n de un sistema de IA deber\u00eda definirse m\u00e1s claramente para garantizar la seguridad jur\u00eddica, dado que la determinaci\u00f3n de lo que constituye un \u201csistema de IA\u201d es crucial para la asignaci\u00f3n de responsabilidades legales bajo el nuevo marco de IA.<\/p>\n<p>Este enfoque basado en <em>riesgos<\/em> se expresa en la <em>Pir\u00e1mide de Riesgos<\/em> donde se clasifican en<\/p>\n<p><u>Riesgo inaceptable<\/u>: Pr\u00e1cticas de IA prohibidas<\/p>\n<ul>\n<li>La ley de IA proh\u00edbe <em>expl\u00edcitamente<\/em> las pr\u00e1cticas da\u00f1inas de IA;<\/li>\n<li>Sistemas de IA que implementan \u201ct\u00e9cnicas subliminales\u201d de manipulaci\u00f3n da\u00f1inas;<\/li>\n<li>Sistemas de IA que explotan grupos vulnerables espec\u00edficos (discapacidad f\u00edsica o mental);<\/li>\n<li>Sistemas de IA utilizados por las autoridades p\u00fablicas, o en su nombre, con fines de puntuaci\u00f3n social;<\/li>\n<li>Sistemas de identificaci\u00f3n biom\u00e9trica remota en tiempo real en espacios de acceso p\u00fablico con fines policiales, excepto en un n\u00famero limitado de casos.<\/li>\n<\/ul>\n<p><u>Alto riesgo<\/u>: sistema de IA de alto riesgo regulado<\/p>\n<ul>\n<li>Sistemas de IA de alto riesgo desplegados en ocho \u00e1reas espec\u00edficas;<\/li>\n<li>Identificaci\u00f3n biom\u00e9trica y categorizaci\u00f3n de personas f\u00edsicas;<\/li>\n<li>Gesti\u00f3n y operaci\u00f3n de infraestructura cr\u00edtica;<\/li>\n<li>Educaci\u00f3n y formaci\u00f3n profesional;<\/li>\n<li>Empleo, gesti\u00f3n de trabajadores y acceso al autoempleo;<\/li>\n<li>Acceso y disfrute de servicios privados esenciales y servicios y beneficios p\u00fablicos;<\/li>\n<li>Supervisi\u00f3n del cumplimiento de la ley;<\/li>\n<li>Gesti\u00f3n de la migraci\u00f3n, el asilo y el control de fronteras;<\/li>\n<li>Administraci\u00f3n de justicia y procesos democr\u00e1ticos.<\/li>\n<\/ul>\n<p><u>Riesgo limitado<\/u>: Obligaciones de transparencia<\/p>\n<ul>\n<li>Los sistemas de IA que presentan un \u201criesgo limitado\u201d, como los sistemas que interact\u00faan con humanos (es decir, <em>chatbots<\/em>), sistemas de reconocimiento de emociones, sistemas de categorizaci\u00f3n biom\u00e9trica y sistemas de IA que generan o manipulan contenido de im\u00e1genes, audio o video (<em>deep-fake, <\/em>es decir falsificaciones profundas), estar\u00edan sujetos a un conjunto limitado de obligaciones de transparencia.<\/li>\n<\/ul>\n<p><u>Riesgo bajo o m\u00ednimo<\/u>: sin obligaciones<\/p>\n<ul>\n<li>Sin embargo, la ley de IA propuesta prev\u00e9 la creaci\u00f3n de c\u00f3digos de conducta para alentar a los proveedores de sistemas de IA que no son de alto riesgo a aplicar voluntariamente los requisitos obligatorios para los de alto riesgo.<\/li>\n<\/ul>\n<h3>C\u00f3mo est\u00e1 la situaci\u00f3n actual en la industria de IA<\/h3>\n<p>Un an\u00e1lisis y evaluaci\u00f3n,<sup>5<\/sup> realizado por la Universidad de Stanford del cumplimiento por las principales 10 plataformas de IA al d\u00eda de hoy, midiendo 22 variables, concluye:<\/p>\n<ul>\n<li>Los proveedores de modelos b\u00e1sicos generalmente <em>no cumplen con los requisitos preliminares<\/em> para describir el uso de datos de capacitaci\u00f3n protegidos por derechos de autor, el hardware utilizado, las emisiones producidas en la capacitaci\u00f3n, y c\u00f3mo se eval\u00faan y prueban los modelos.<\/li>\n<li>Los resultados demuestran un rango sorprendente en el cumplimiento entre los proveedores de modelos b\u00e1sicos: algunos proveedores obtienen una puntuaci\u00f3n inferior al 25% (<em>AI21 Labs<\/em>, <em>Aleph Alpha<\/em>, <em>Anthropic<\/em>) y solo dos proveedores obtienen una puntuaci\u00f3n de al menos 75% (<em>Hugging Face<\/em>; <em>BigScience<\/em>) al presente.<\/li>\n<li>Pocos proveedores divulgan informaci\u00f3n sobre el estado de los derechos de autor de los datos de entrenamiento. Muchos modelos b\u00e1sicos se entrenan con datos seleccionados de Internet, de los cuales una fracci\u00f3n considerable probablemente tenga derechos de autor.<\/li>\n<li>Los proveedores de modelos b\u00e1sicos rara vez miden el rendimiento de los modelos en t\u00e9rminos de da\u00f1os intencionales, como el uso malicioso, o factores como la solidez y la calibraci\u00f3n.<\/li>\n<li>Muchos en la comunidad han pedido m\u00e1s evaluaciones, pero los est\u00e1ndares para la evaluaci\u00f3n del modelo b\u00e1sico (especialmente m\u00e1s all\u00e1 de los modelos ling\u00fc\u00edsticos) siguen siendo solo un \u201ctrabajo en curso\u201d.<\/li>\n<li>Los informes para GPT-4 de OpenAI y PaLM 2 de <em>Google<\/em> afirman abiertamente que no informan muchos aspectos relevantes sobre datos y computaci\u00f3n.<\/li>\n<li>La transparencia deber\u00eda ser la primera prioridad.<\/li>\n<\/ul>\n<h3>Nuestra reflexi\u00f3n<\/h3>\n<p>Pensamos que los proveedores de modelos b\u00e1sicos cumplen de manera desigual con los requisitos establecidos en el proyecto de Ley de IA de la UE. Por lo que los proveedores de dichos modelos deber\u00edan seguir trabajando para cumplir con los est\u00e1ndares de la industria.<\/p>\n<p>La promulgaci\u00f3n y aplicaci\u00f3n de la Ley de IA de la UE provocar\u00e1 un cambio positivo y significativo en el ecosistema del modelo b\u00e1sico.<\/p>\n<p>El <em>chatbox<\/em> comentado en el ejemplo m\u00e1s arriba, sistema que fue hackeado por <em>code-injection<\/em>, fue corregido inmediatamente de publicado el art\u00edculo. Si quiere construir bombas nucleares deber\u00e1 buscarse otro modelo. Si lo logra no ser\u00e1 necesario avisarnos.<\/p>\n<h3>Posts de la serie sobre Inteligencia Artificial (IA)<\/h3>\n<ul>\n<li><a href=\"https:\/\/blog.scielo.org\/es\/2023\/08\/14\/gpt-traduccion-automatica-y-que-tan-buenos-son\/\">GPT, traducci\u00f3n autom\u00e1tica y qu\u00e9 tan buenos son: una evaluaci\u00f3n integral<\/a><\/li>\n<li><a href=\"https:\/\/blog.scielo.org\/es\/2023\/08\/30\/inteligencia-artificial-y-comunicacion-de-investigaciones\/\">Inteligencia Artificial y comunicaci\u00f3n de investigaciones<\/a><\/li>\n<li><a href=\"https:\/\/blog.scielo.org\/es\/2023\/11\/17\/ia-como-detectar-textos-producidos-por-chatbox-y-sus-plagios\/\">IA: C\u00f3mo detectar textos producidos por\u00a0<em>chatbox<\/em>\u00a0y sus plagios<\/a><\/li>\n<li><a href=\"https:\/\/blog.scielo.org\/es\/2023\/11\/24\/investigacion-y-comunicacion-cientifica-la-ia-y-la-legislacion-que-se-avecina\/\">Investigaci\u00f3n y comunicaci\u00f3n cient\u00edfica, la IA y la legislaci\u00f3n que se avecina<\/a><\/li>\n<li><a href=\"https:\/\/blog.scielo.org\/es\/2023\/12\/06\/puede-la-ia-hacer-arbitrajes-confiables-de-articulos-cientificos\/\">\u00bfPuede la IA hacer arbitrajes confiables de art\u00edculos cient\u00edficos?<\/a><\/li>\n<li><a href=\"https:\/\/blog.scielo.org\/es\/2023\/12\/20\/es-que-la-inteligencia-artificial-tiene-alucinaciones\/\">\u00bfEs que la Inteligencia Artificial tiene\u00a0<em>alucinaciones<\/em>?<\/a><\/li>\n<\/ul>\n<h3>Notas<\/h3>\n<p>1. MILLER, A. Bioweapons Designed by AI: a \u2018Very Near-Term Concern,\u2019 Schmidt Says [online]. Air&amp;Space Forces Magazine. 2022 [viewed 24 November 2023]. Available from: <a href=\"https:\/\/www.airandspaceforces.com\/bioweapons-designed-by-ai-a-very-near-term-concern-schmidt-says\/\" target=\"_blank\" rel=\"noopener\">https:\/\/www.airandspaceforces.com\/bioweapons-designed-by-ai-a-very-near-term-concern-schmidt-says\/<\/a><\/p>\n<p>2. HEATH, R. Another AI threat: The next pandemic. AXIOS. 2023 [viewed 24 November 2023]. Available from: <a href=\"https:\/\/www.axios.com\/2023\/06\/16\/pandemic-bioterror-ai-chatgpt-bioattacks\" target=\"_blank\" rel=\"noopener\">https:\/\/www.axios.com\/2023\/06\/16\/pandemic-bioterror-ai-chatgpt-bioattacks<\/a><\/p>\n<p>3. KNIGHT, W. A New Attack Impacts ChatGPT\u2014and No One Knows How to Stop It [online]. Wired. 2023 [viewed 24 November 2023]. Available from: <a href=\"https:\/\/www.wired.com\/story\/ai-adversarial-attacks\/\" target=\"_blank\" rel=\"noopener\">https:\/\/www.wired.com\/story\/ai-adversarial-attacks\/<\/a><\/p>\n<p>4. HEIKKIL\u00c4ARCHIVE, M. AI language models are rife with different political biases [online]. 2023. [viewed 24 November 2023]. Available from: <a href=\"https:\/\/www.technologyreview.com\/2023\/08\/07\/1077324\/ai-language-models-are-rife-with-political-biases\/\" target=\"_blank\" rel=\"noopener\">https:\/\/www.technologyreview.com\/2023\/08\/07\/1077324\/ai-language-models-are-rife-with-political-biases\/<\/a><\/p>\n<p>5. BOMMASANI, R., <em>et al<\/em>. Do Foundation Model Providers Comply with the Draft EU AI Act? [online]. Stanford CRFM [viewed 24 November 2023]. Available from: <a href=\"https:\/\/crfm.stanford.edu\/2023\/06\/15\/eu-ai-act.html\" target=\"_blank\" rel=\"noopener\">https:\/\/crfm.stanford.edu\/2023\/06\/15\/eu-ai-act.html<\/a><\/p>\n<h3>Referencias<\/h3>\n<p>BOMMASANI, R., <em>et al<\/em>. Do Foundation Model Providers Comply with the Draft EU AI Act? [online]. Stanford CRFM [viewed 24 November 2023]. Available from: <a href=\"https:\/\/crfm.stanford.edu\/2023\/06\/15\/eu-ai-act.html\" target=\"_blank\" rel=\"noopener\">https:\/\/crfm.stanford.edu\/2023\/06\/15\/eu-ai-act.html<\/a><\/p>\n<p>EU AI Act: first regulation on artificial intelligence [online]. European Parliament. 2023 [viewed 24 November 2023]. Available from: <a href=\"https:\/\/www.europarl.europa.eu\/news\/en\/headlines\/society\/20230601STO93804\/eu-ai-act-first-regulation-on-artificial-intelligence\" target=\"_blank\" rel=\"noopener\">https:\/\/www.europarl.europa.eu\/news\/en\/headlines\/society\/20230601STO93804\/eu-ai-act-first-regulation-on-artificial-intelligence<\/a><\/p>\n<p>GARG, M.K. AI comes up with 40,000 toxic chemicals in 6 hours; scientists warn could be used to make biological weapons [online]. Wion News. 2023 [viewed 24 November 2023]. Available from: <a href=\"https:\/\/www.wionews.com\/technology\/ai-comes-up-with-40000-toxic-chemicals-in-6-hours-scientists-warn-could-be-used-to-make-biological-weapons-561636\" target=\"_blank\" rel=\"noopener\">https:\/\/www.wionews.com\/technology\/ai-comes-up-with-40000-toxic-chemicals-in-6-hours-scientists-warn-could-be-used-to-make-biological-weapons-561636<\/a><\/p>\n<p>HEATH, R. Another AI threat: The next pandemic. AXIOS. 2023 [viewed 24 November 2023]. Available from: <a href=\"https:\/\/www.axios.com\/2023\/06\/16\/pandemic-bioterror-ai-chatgpt-bioattacks\" target=\"_blank\" rel=\"noopener\">https:\/\/www.axios.com\/2023\/06\/16\/pandemic-bioterror-ai-chatgpt-bioattacks<\/a><\/p>\n<p>HEIKKIL\u00c4ARCHIVE, M. AI language models are rife with different political biases [online]. 2023. [viewed 24 November 2023]. Available from: <a href=\"https:\/\/www.technologyreview.com\/2023\/08\/07\/1077324\/ai-language-models-are-rife-with-political-biases\/\" target=\"_blank\" rel=\"noopener\">https:\/\/www.technologyreview.com\/2023\/08\/07\/1077324\/ai-language-models-are-rife-with-political-biases\/<\/a><\/p>\n<p>How governments are looking to regulate AI [online]. Economist Intelligence Unit. 2023 [viewed 24 November 2023]. Available from: <a href=\"https:\/\/www.eiu.com\/n\/how-governments-are-looking-to-regulate-ai\/\" target=\"_blank\" rel=\"noopener\">https:\/\/www.eiu.com\/n\/how-governments-are-looking-to-regulate-ai\/<\/a><\/p>\n<p>KNIGHT, W. A New Attack Impacts ChatGPT\u2014and No One Knows How to Stop It [online]. Wired. 2023 [viewed 24 November 2023]. Available from: <a href=\"https:\/\/www.wired.com\/story\/ai-adversarial-attacks\/\" target=\"_blank\" rel=\"noopener\">https:\/\/www.wired.com\/story\/ai-adversarial-attacks\/<\/a><\/p>\n<p>MADIEGA, T. Artificial Intelligence Act. Briefing [online]. European Parliament. 2023 [viewed 24 November 2023]. Available from: <a href=\"https:\/\/www.europarl.europa.eu\/RegData\/etudes\/BRIE\/2021\/698792\/EPRS_BRI(2021)698792_EN.pdf\" target=\"_blank\" rel=\"noopener\">https:\/\/www.europarl.europa.eu\/RegData\/etudes\/BRIE\/2021\/698792\/EPRS_BRI(2021)698792_EN.pdf<\/a><\/p>\n<p>MILLER, A. Bioweapons Designed by AI: a \u2018Very Near-Term Concern,\u2019 Schmidt Says [online]. Air&amp;Space Forces Magazine. 2022 [viewed 24 November 2023]. Available from: <a href=\"https:\/\/www.airandspaceforces.com\/bioweapons-designed-by-ai-a-very-near-term-concern-schmidt-says\/\" target=\"_blank\" rel=\"noopener\">https:\/\/www.airandspaceforces.com\/bioweapons-designed-by-ai-a-very-near-term-concern-schmidt-says\/<\/a><\/p>\n<p>URBINA, F., <em>et al<\/em>. Dual use of artificial-intelligence-powered drug discovery. <em>Nat Mach Intell<\/em> [online].2022, vol. 4, pp. 189-191 [viewed 24 November 2023]. <a href=\"https:\/\/doi.org\/10.1038\/s42256-022-00465-9\" target=\"_blank\" rel=\"noopener\">https:\/\/doi.org\/10.1038\/s42256-022-00465-9<\/a>. Available from: <a href=\"https:\/\/www.nature.com\/natmachintell\/\" target=\"_blank\" rel=\"noopener\">https:\/\/www.nature.com\/natmachintell\/<\/a><\/p>\n<p>&nbsp;<\/p>\n<div class=\"pf-content\">\n<h3>Sobre Ernesto Spinak<a href=\"https:\/\/blog.scielo.org\/es\/wp-content\/uploads\/sites\/3\/2013\/10\/spinak.jpg\" target=\"_blank\" rel=\"noreferrer noopener\"><img loading=\"lazy\" decoding=\"async\" class=\"alignright wp-image-537\" src=\"https:\/\/blog.scielo.org\/es\/wp-content\/uploads\/sites\/3\/2013\/10\/spinak-150x150.jpg\" alt=\"\" width=\"150\" height=\"150\" \/><\/a><\/h3>\n<p>Colaborador de SciELO, Ingeniero en Sistemas y Lic. en Biblioteconom\u00eda, con Diploma de Estudios Avanzados pela Universitat Oberta de Catalunya y Maestr\u00eda en \u201cSociedad de la Informaci\u00f3n\u201d por la Universidad Oberta de Catalunya, Barcelona \u2013 Espa\u00f1a. Actualmente tiene una empresa de consultor\u00eda que atiende a 14 instituciones de gobierno y universidades en Uruguay con proyectos de informaci\u00f3n.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"<p>\u00bfPuede usarse la IA para generar &#8220;<em>papers<\/em>&#8221; terroristas, diseminar virus mortales o aprender a hacer bombas nucleares en su domicilio? \u00bfHay legislaci\u00f3n que pueda protegernos? Parece que la regulaci\u00f3n internacional est\u00e1 en camino. <span class=\"ellipsis\">&hellip;<\/span> <span class=\"more-link-wrap\"><a href=\"https:\/\/blog.scielo.org\/es\/2023\/11\/24\/investigacion-y-comunicacion-cientifica-la-ia-y-la-legislacion-que-se-avecina\/\" class=\"more-link\"><span>Read More &rarr;<\/span><\/a><\/span><\/p>\n","protected":false},"author":8,"featured_media":5418,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":"","_links_to":"","_links_to_target":""},"categories":[3],"tags":[7,37,78],"class_list":["post-5416","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-analisis","tag-comunicacion-cientifica","tag-etica-en-la-comunicacion-cientifica","tag-inteligencia-artificial"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/posts\/5416","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/comments?post=5416"}],"version-history":[{"count":7,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/posts\/5416\/revisions"}],"predecessor-version":[{"id":5463,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/posts\/5416\/revisions\/5463"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/media\/5418"}],"wp:attachment":[{"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/media?parent=5416"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/categories?post=5416"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/tags?post=5416"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}