2.4 · Implicacións éticas e políticas do deseño e uso da IA
En detalle
Unha ferramenta non é boa nin mala por si mesma: o que se xulga é para que se usa e quen decide ese uso. A mesma tecnoloxía que atopa un tumor nunha radiografía pode servir para vixiar a xente pola rúa. O aparello é o mesmo; a decisión, non.
Por iso, ante calquera aplicación, hai tres preguntas que sempre se poden facer: a quen beneficia, a quen prexudica e quen responde se sae mal. Se a terceira non ten resposta, aí está o problema.
As preguntas que hai que saber facer
- Quen decide para que se pode usar: a empresa que a fai, quen a merca, ou unha norma pública.
- Quen queda fóra da decisión aínda que lle afecte.
- Que pasa cando a ferramenta se usa contra a persoa á que dicía axudar.

Casos reais para analizar
O sistema de contratación de Amazon que discriminaba mulleres (NYT, 2018), un arresto erróneo por recoñecemento facial (NYT, 2020), a discriminación na Apple Card (Reuters, 2019) e o accidente do coche autónomo de Uber (NYT, 2018).
Crea unha nube de palabras con polo menos 20 termos das implicacións éticas e políticas da IA (equidade, nesgo, discriminación, responsabilidade, privacidade, transparencia, control…). Faise coa ferramenta que tes ao final desta páxina —funciona neste mesmo ordenador, sen conta e sen enviar nada— ou a man en papel.
Cada grupo escolle unha implicación (p. ex. o nesgo) e debe: investigar como xorde no deseño e no uso da IA; avaliar impactos positivos e negativos; propor solucións; e crear unha presentación dixital para comunicalo. Remátase con debate participativo por quendas (penalízase non respectar a quenda de palabra) e reflexión final.
Xullo de 2026. A Policía Nacional investiga tres menores dun instituto da Región de Murcia por crear e difundir imaxes de compañeiras de clase manipuladas con intelixencia artificial. Non hai ningunha ferramenta rara na historia: son aplicacións que calquera pode abrir no móbil. A denuncia púxena as familias de tres das rapazas afectadas, cando as imaxes xa circulaban.
Isto non é «unha broma que saíu mal». Segundo as informacións publicadas, os delitos que se lles imputan son de pornografía infantil e contra a intimidade e a integridade moral. Ser menor non apaga a responsabilidade: cambia o procedemento, non o feito.
Pasos
- Lectura individual do caso e unha soa pregunta escrita: a quen fai dano isto, e como? Lista de todas as persoas afectadas que se che ocorran, non só a que aparece na imaxe.
- En grupos de 3, cadea de responsabilidade. Para cada elo, decide se ten responsabilidade e de que tipo: quen fabrica a imaxe · quen a reenvía · quen a recibe e non fai nada · a aplicación que a xera · a plataforma pola que circula.
- Posta en común: onde estivo o desacordo? Case sempre está no terceiro elo.
- Peche práctico, e este é obrigatorio: que fas se che pasa a ti ou a alguén que coñeces? Escribide entre todos tres pasos concretos, en orde. Non borrar as probas é un deles.
- Nota da Policía Nacional recollida pola axencia EFE o 6 de xullo de 2026: tres menores investigados na Región de Murcia por crear e difundir imaxes de compañeiras de clase manipuladas con IA.
- Cobertura en Telecinco, Cope e El Debate (6 de xullo de 2026). Os delitos que se lles imputan, segundo esas informacións, son pornografía infantil e contra a intimidade e a integridade moral.
- A denuncia partiu das nais e pais de tres das rapazas afectadas.
Febreiro de 2026. Unha empresa de intelixencia artificial ten na súa política de uso unha liña que prohibe empregar os seus modelos para certos usos en armamento autónomo. O Departamento de Defensa dos Estados Unidos, que é cliente, quere eses usos. A empresa non retira a liña. O 27 de febreiro o presidente ordena que as axencias federais e os contratistas militares deixen de usar a tecnoloxía desa empresa. Poucas horas despois, unha empresa competidora anuncia un acordo co Pentágono.
Non se discute aquí quen ten razón. Discútese a pregunta de debaixo: onde se decide o que unha IA pode e non pode facer? Hai tres sitios posibles —na política da empresa, no contrato do cliente, ou na lei— e cada un ten un problema distinto.
Pasos
- Individual: escribe nunha liña quen debería poder poñer ese límite, e por que.
- En grupos de 3, repartide as tres posturas de abaixo por sorteo. Non escolles a que pensas: defendes a que che toca. Cinco minutos para preparala.
- Rolda de defensa, dous minutos cada un, sen interromper.
- Peche individual: agora si, escribe a túa postura real e di que argumento da rolda che fixo dubidar.
- Servizo de Investigación do Congreso dos EUA (CRS), «Pentagon-Anthropic Dispute over Autonomous Weapon Systems: Potential Issues for Congress»: ler o informe.
- Coberturas do 27 de febreiro de 2026 en CNN Business, CNBC, NPR, Al Jazeera e Federal News Network.
- Regulamento (UE) 2024/1689 (Regulamento de IA), artigo 2: os usos exclusivamente militares e de defensa quedan fóra do seu ámbito de aplicación.
Implicacións éticas e políticas da IA.
2.4 · Implicaciones éticas y políticas del diseño y uso de la IA
En detalle
Una herramienta no es buena ni mala en sí misma: lo que se juzga es para qué se usa y quién decide ese uso. La misma tecnología que encuentra un tumor en una radiografía puede servir para vigilar a la gente por la calle. El aparato es el mismo; la decisión, no.
Por eso, ante cualquier aplicación, hay tres preguntas que siempre se pueden hacer: a quién beneficia, a quién perjudica y quién responde si sale mal. Si la tercera no tiene respuesta, ahí está el problema.
Las preguntas que hay que saber hacer
- Quién decide para qué se puede usar: la empresa que la hace, quien la compra, o una norma pública.
- Quién queda fuera de la decisión aunque le afecte.
- Qué pasa cuando la herramienta se usa contra la persona a la que decía ayudar.

Casos reales para analizar
El sistema de contratación de Amazon que discriminaba a mujeres (NYT, 2018), un arresto erróneo por reconocimiento facial (NYT, 2020), la discriminación en la Apple Card (Reuters, 2019) y el accidente del coche autónomo de Uber (NYT, 2018).
Nube de palabras con ≥20 términos pertinentes, con la herramienta del final de la página o a mano en papel.
Investigar cómo surge, evaluar impactos, proponer soluciones y presentarlo; debate por turnos.
Julio de 2026. La Policía Nacional investiga a tres menores de un instituto de la Región de Murcia por crear y difundir imágenes de compañeras de clase manipuladas con inteligencia artificial. No hay ninguna herramienta rara en la historia: son aplicaciones que cualquiera puede abrir en el móvil. La denuncia la pusieron las familias de tres de las chicas afectadas, cuando las imágenes ya circulaban.
Esto no es «una broma que salió mal». Según las informaciones publicadas, los delitos que se les imputan son de pornografía infantil y contra la intimidad y la integridad moral. Ser menor no apaga la responsabilidad: cambia el procedimiento, no el hecho.
Pasos
- Lectura individual y una sola pregunta escrita: ¿a quién hace daño esto, y cómo? Lista de todas las personas afectadas que se te ocurran, no solo la que aparece en la imagen.
- En grupos de 3, cadena de responsabilidad. Para cada eslabón, decide si tiene responsabilidad y de qué tipo: quien fabrica la imagen · quien la reenvía · quien la recibe y no hace nada · la aplicación que la genera · la plataforma por la que circula.
- Puesta en común: ¿dónde estuvo el desacuerdo? Casi siempre está en el tercer eslabón.
- Cierre práctico, y este es obligatorio: ¿qué haces si te pasa a ti o a alguien que conoces? Escribid entre todos tres pasos concretos, en orden. No borrar las pruebas es uno de ellos.
- Nota da Policía Nacional recogida por la agencia EFE o 6 de xullo de 2026: tres menores investigados en la Región de Murcia por crear y difundir imágenes de compañeras de clase manipuladas con IA.
- Cobertura en Telecinco, Cope e El Debate (6 de xullo de 2026). Los delitos que se les imputan, según esas informaciones, son pornografía infantil e contra a intimidade e a integridade moral.
- La denuncia partió de las madres y padres de tres de las chicas afectadas.
Febrero de 2026. Una empresa de inteligencia artificial tiene en su política de uso una línea que prohíbe emplear sus modelos para ciertos usos en armamento autónomo. El Departamento de Defensa de Estados Unidos, que es cliente, quiere esos usos. La empresa no retira la línea. El 27 de febrero el presidente ordena que las agencias federales y los contratistas militares dejen de usar la tecnología de esa empresa. Pocas horas después, una empresa competidora anuncia un acuerdo con el Pentágono.
Aquí no se discute quién tiene razón. Se discute la pregunta de debajo: ¿dónde se decide lo que una IA puede y no puede hacer? Hay tres sitios posibles —la política de la empresa, el contrato del cliente o la ley— y cada uno tiene un problema distinto.
Pasos
- Individual: escribe en una línea quién debería poder poner ese límite, y por qué.
- En grupos de 3, repartid las tres posturas por sorteo. No eliges la que piensas: defiendes la que te toca. Cinco minutos para prepararla.
- Ronda de defensa, dos minutos cada uno, sin interrumpir.
- Cierre individual: ahora sí, escribe tu postura real y di qué argumento de la ronda te hizo dudar.
- Servicio de Investigación del Congreso de EE. UU. (CRS), «Pentagon-Anthropic Dispute over Autonomous Weapon Systems: Potential Issues for Congress»: leer el informe.
- Coberturas do 27 de febreiro de 2026 en CNN Business, CNBC, NPR, Al Jazeera e Federal News Network.
- Regulamento (UE) 2024/1689 (Regulamento de IA), artigo 2: los usos exclusivamente militares y de defensa quedan fuera de su ámbito de aplicación.
Implicaciones éticas y políticas de la IA.
2.4 · Implications éthiques et politiques
En détail
Un outil n'est ni bon ni mauvais en soi : ce qu'on juge, c'est à quoi il sert et qui décide de cet usage. La même technologie qui repère une tumeur sur une radiographie peut servir à surveiller les gens dans la rue. L'appareil est le même ; la décision, non.
C'est pourquoi, devant n'importe quelle application, il y a trois questions que l'on peut toujours poser : à qui cela profite, à qui cela nuit et qui répond si cela tourne mal. Si la troisième n'a pas de réponse, le problème est là.
Les questions à savoir poser
- Qui décide des usages autorisés : le fabricant, l'acheteur, ou une règle publique.
- Qui est exclu de la décision tout en la subissant.
- Ce qui se passe quand l'outil est retourné contre celui qu'il devait aider.

Cas réels à analyser
Le système de recrutement d'Amazon qui discriminait les femmes (NYT, 2018), une arrestation erronée par reconnaissance faciale (NYT, 2020), la discrimination sur l'Apple Card (Reuters, 2019) et l'accident de la voiture autonome d'Uber (NYT, 2018).
Crée un nuage de mots avec au moins 20 termes des implications éthiques et politiques de l'IA (équité, biais, discrimination, responsabilité, vie privée, transparence, contrôle…). Cela se fait avec l'outil qui se trouve en bas de cette page — il fonctionne sur cet ordinateur, sans compte et sans rien envoyer — ou à la main sur papier.
Chaque groupe choisit une implication (par exemple le biais) et doit : chercher comment elle naît dans la conception et dans l'usage de l'IA ; évaluer les impacts positifs et négatifs ; proposer des solutions ; et créer une présentation numérique pour la communiquer. On termine par un débat à tour de rôle (ne pas respecter son tour est pénalisé) et une réflexion finale.
Juillet 2026. La Police nationale espagnole enquête sur trois mineurs d'un collège de la région de Murcie pour avoir créé et diffusé des images de camarades de classe manipulées par IA. Aucun outil exotique : des applications que n'importe qui ouvre sur son téléphone. La plainte vient des familles de trois des jeunes filles concernées.
Ce n'est pas « une blague qui a mal tourné ». Selon les informations publiées, les faits relèvent de la pornographie infantile et des atteintes à l'intimité et à l'intégrité morale. Être mineur ne supprime pas la responsabilité : cela change la procédure, pas le fait.
Étapes
- Lecture individuelle et une seule question écrite : à qui cela fait-il du mal, et comment ?
- En groupes de 3, chaîne de responsabilité : celui qui fabrique · celui qui transfère · celui qui reçoit et ne fait rien · l'application · la plateforme.
- Mise en commun : où était le désaccord ? Presque toujours au troisième maillon.
- Clôture obligatoire : que fais-tu si cela t'arrive, à toi ou à quelqu'un que tu connais ? Trois étapes concrètes, dans l'ordre. Ne pas effacer les preuves en fait partie.
- Communiqué de la Police nationale espagnole repris par l'agence EFE le 6 juillet 2026 : trois mineurs mis en cause dans la région de Murcie pour avoir créé et diffusé des images de camarades de classe manipulées par IA.
- Couverture par Telecinco, Cope et El Debate (6 juillet 2026). Les chefs retenus, selon ces informations, relèvent de la pornographie infantile et des atteintes à l'intimité et à l'intégrité morale.
- La plainte émane des parents de trois des jeunes filles concernées.
Février 2026. Une entreprise d'IA interdit, dans sa politique d'usage, certains emplois de ses modèles dans l'armement autonome. Le département de la Défense des États-Unis, client, veut ces emplois. L'entreprise maintient sa ligne. Le 27 février, le président ordonne aux agences fédérales et aux contractants militaires de cesser d'utiliser la technologie de cette entreprise. Quelques heures plus tard, une concurrente annonce un accord avec le Pentagone.
On ne discute pas ici de qui a raison, mais de la question dessous : où se décide ce qu'une IA peut faire ? Trois lieux possibles — la politique de l'entreprise, le contrat du client, la loi — chacun avec son problème.
Étapes
- Individuel : une ligne sur qui devrait fixer cette limite, et pourquoi.
- En groupes de 3, les trois positions sont tirées au sort. Tu ne choisis pas : tu défends celle qui te revient. Cinq minutes de préparation.
- Tour de parole, deux minutes chacun, sans interruption.
- Clôture individuelle : écris ta vraie position et quel argument t'a fait douter.
- Congressional Research Service (CRS), « Pentagon-Anthropic Dispute over Autonomous Weapon Systems » : lire le rapport.
- Couvertures du 27 février 2026 : CNN Business, CNBC, NPR, Al Jazeera, Federal News Network.
- Règlement (UE) 2024/1689 sur l'IA, article 2 : les usages exclusivement militaires et de défense sont exclus de son champ d'application.
Implications éthiques et politiques de l'IA.
2.4 · الانعكاسات الأخلاقية والسياسية
بالتفصيل
ليست الأداة خيّرة ولا شرّيرة بذاتها؛ ما يُحاكَم هو فيمَ تُستعمل ومن يقرّر ذلك. فالتقنية نفسها التي تكشف ورمًا في صورة أشعّة قد تُستعمل لمراقبة الناس في الشارع. الجهاز واحد، أمّا القرار فلا.
ولذلك تصلح ثلاثة أسئلة أمام أيّ تطبيق: من يستفيد، ومن يتضرّر، ومن يتحمّل المسؤولية إن ساءت النتيجة. وإذا لم يكن للثالث جواب، فهناك المشكلة.
الأسئلة التي ينبغي إحسان طرحها
- من يقرّر أوجه الاستعمال المسموحة: الشركة الصانعة، أم المشتري، أم قاعدة عامّة.
- من يبقى خارج القرار وإن كان يمسّه.
- ماذا يحدث حين تُستعمل الأداة ضدّ من كانت تدّعي مساعدته.

حالات حقيقية للتحليل
نظام التوظيف في أمازون الذي كان يميّز ضدّ النساء (NYT, 2018)، واعتقال خاطئ بسبب التعرّف على الوجوه (NYT, 2020)، والتمييز في بطاقة Apple Card (Reuters, 2019)، وحادث سيارة أوبر ذاتية القيادة (NYT, 2018).
أنشئ سحابة كلمات تضم عشرين مصطلحًا على الأقل من التداعيات الأخلاقية والسياسية للذكاء الاصطناعي (الإنصاف، التحيّز، التمييز، المسؤولية، الخصوصية، الشفافية، التحكّم…). تُنجز بالأداة الموجودة في نهاية هذه الصفحة —تعمل على هذا الحاسوب نفسه، دون حساب ودون إرسال أي شيء— أو بخط اليد على الورق.
تختار كل مجموعة تداعيًا واحدًا (مثل التحيّز) وعليها: البحث في كيفية نشوئه في تصميم الذكاء الاصطناعي واستخدامه؛ وتقييم الآثار الإيجابية والسلبية؛ واقتراح حلول؛ وإعداد عرض رقمي لإيصاله. ويُختتم بنقاش بالأدوار (عدم احترام الدور يُخصم) ثم تأمل ختامي.
يوليو 2026. تحقّق الشرطة الوطنية الإسبانية مع ثلاثة قاصرين في ثانوية بمنطقة مُرسية لأنهم أنشأوا ونشروا صورًا لزميلاتهم مُعدَّلة بالذكاء الاصطناعي. لا أداة غريبة في القصة: تطبيقات يفتحها أي شخص على هاتفه. الشكوى قدّمها أهالي ثلاث من الفتيات بعد أن كانت الصور قد انتشرت.
هذه ليست «مزحة ساءت». وفق ما نُشر، التهم هي استغلال الأطفال في مواد إباحية والاعتداء على الخصوصية والسلامة المعنوية. كون الفاعل قاصرًا لا يُلغي المسؤولية؛ يغيّر الإجراء لا الفعل.
الخطوات
- قراءة فردية وسؤال مكتوب واحد: من يتضرّر من هذا وكيف؟ اذكر كل المتضررين لا الظاهرة في الصورة فقط.
- في مجموعات ثلاثية، سلسلة المسؤولية. ولكل حلقة، قرّروا هل تتحمّل مسؤولية ومن أي نوع: من يصنع الصورة · من يعيد إرسالها · من يتلقّاها ولا يفعل شيئًا · التطبيق الذي يولّدها · المنصّة التي تنتشر عبرها.
- مشاركة جماعية: أين كان الخلاف؟ غالبًا ما يكون عند الحلقة الثالثة.
- خاتمة عملية، وهي إلزامية: ماذا تفعل إن حدث لك أو لشخص تعرفه؟ اكتبوا معًا ثلاث خطوات محدّدة ومرتّبة. وعدم حذف الأدلة إحداها.
- بيان للشرطة الوطنية الإسبانية نقلته وكالة EFE في 6 يوليو 2026: التحقيق مع ثلاثة قاصرين في منطقة مُرسية لإنشاء ونشر صور لزميلاتهم مُعدَّلة بالذكاء الاصطناعي.
- تغطية في Telecinco وCope وEl Debate (6 يوليو 2026). والتهم المنسوبة إليهم، وفق تلك المعلومات، هي استغلال الأطفال في مواد إباحية والاعتداء على الخصوصية والسلامة المعنوية.
- الشكوى قدّمها أهالي ثلاث من الفتيات المتضررات.
فبراير 2026. شركة ذكاء اصطناعي تمنع في سياسة الاستخدام لديها توظيف نماذجها في استخدامات معيّنة ضمن الأسلحة الذاتية. وزارة الدفاع الأمريكية، وهي عميل، تريد تلك الاستخدامات. الشركة لا تتراجع. في 27 فبراير يأمر الرئيس بأن تتوقّف الوكالات الفيدرالية والمتعاقدون العسكريون عن استخدام تقنية تلك الشركة. وبعد ساعات تعلن شركة منافسة اتفاقًا مع البنتاغون.
لا نناقش هنا من على حق، بل السؤال الأعمق: أين يُقرَّر ما يمكن للذكاء الاصطناعي فعله؟ ثلاثة مواضع ممكنة — سياسة الشركة، عقد العميل، أو القانون — ولكل منها مشكلته.
الخطوات
- فرديًا: سطر واحد عمّن ينبغي أن يضع هذا الحدّ ولماذا.
- في مجموعات ثلاثية، تُوزَّع المواقف الثلاثة بالقرعة. لا تختار ما تؤمن به بل تدافع عمّا وقع لك. خمس دقائق للتحضير.
- جولة دفاع، دقيقتان لكل واحد بلا مقاطعة.
- خاتمة فردية: اكتب موقفك الحقيقي، وأي حجّة جعلتك تتردّد.
- دائرة أبحاث الكونغرس الأمريكي (CRS)، «نزاع البنتاغون وAnthropic حول أنظمة الأسلحة الذاتية»: قراءة التقرير.
- تغطيات 27 فبراير 2026 في CNN Business وCNBC وNPR والجزيرة وFederal News Network.
- اللائحة الأوروبية 2024/1689 بشأن الذكاء الاصطناعي، المادة 2: الاستخدامات العسكرية والدفاعية الخالصة مستثناة من نطاقها.
الانعكاسات الأخلاقية والسياسية للذكاء الاصطناعي.