Saltar ao contido

Inicio › UD2 › 2.4

2.4 · Implicacións éticas e políticas do deseño e uso da IA

CA2.4Proba escritaPE.2-2.4.1
Equidade. Trato xusto e sen prexuízos, independentemente de xénero, raza ou outras características.
Nesgo (bias). Distorsións nos resultados da IA por datos de adestramento parciais ou prexuízos implícitos.
Discriminación algorítmica. Cando a IA perpetúa desigualdades presentes nos datos.
Responsabilidade. Se a IA erra, unha persoa ou empresa debe responder — non a máquina.
Transparencia. Dereito a saber que interactúas cunha IA e entender como decide.

En detalle

Unha ferramenta non é boa nin mala por si mesma: o que se xulga é para que se usa e quen decide ese uso. A mesma tecnoloxía que atopa un tumor nunha radiografía pode servir para vixiar a xente pola rúa. O aparello é o mesmo; a decisión, non.

Por iso, ante calquera aplicación, hai tres preguntas que sempre se poden facer: a quen beneficia, a quen prexudica e quen responde se sae mal. Se a terceira non ten resposta, aí está o problema.

As preguntas que hai que saber facer

  • Quen decide para que se pode usar: a empresa que a fai, quen a merca, ou unha norma pública.
  • Quen queda fóra da decisión aínda que lle afecte.
  • Que pasa cando a ferramenta se usa contra a persoa á que dicía axudar.
Unha cadea de cinco elos do mesmo grosor: unhas mans nun teclado, unha frecha de reenvío, un móbil cunha notificación sen abrir, a icona dunha aplicación e unha nube de servidor.

Casos reais para analizar

O sistema de contratación de Amazon que discriminaba mulleres (NYT, 2018), un arresto erróneo por recoñecemento facial (NYT, 2020), a discriminación na Apple Card (Reuters, 2019) e o accidente do coche autónomo de Uber (NYT, 2018).

☁P.2-2.4.2a · Nube de implicacións (individual)Prepara o control

Crea unha nube de palabras con polo menos 20 termos das implicacións éticas e políticas da IA (equidade, nesgo, discriminación, responsabilidade, privacidade, transparencia, control…). Faise coa ferramenta que tes ao final desta páxina —funciona neste mesmo ordenador, sen conta e sen enviar nada— ou a man en papel.

Criterio de logro: a nube contén ≥20 termos pertinentes ao tema, sen repeticións triviais.
✎P.2-2.4.2b · Análise dunha implicación (grupos de 3)Prepara o control

Cada grupo escolle unha implicación (p. ex. o nesgo) e debe: investigar como xorde no deseño e no uso da IA; avaliar impactos positivos e negativos; propor solucións; e crear unha presentación dixital para comunicalo. Remátase con debate participativo por quendas (penalízase non respectar a quenda de palabra) e reflexión final.

Criterio de logro: a presentación explica como xorde a implicación, avalía impactos e propón polo menos 2 solucións; participa todo o grupo no debate.
⚖P.2-2.4.2c · Caso real · Cando a ferramenta se usa contra unha compañeiraPrepara o control

Xullo de 2026. A Policía Nacional investiga tres menores dun instituto da Región de Murcia por crear e difundir imaxes de compañeiras de clase manipuladas con intelixencia artificial. Non hai ningunha ferramenta rara na historia: son aplicacións que calquera pode abrir no móbil. A denuncia púxena as familias de tres das rapazas afectadas, cando as imaxes xa circulaban.

Isto non é «unha broma que saíu mal». Segundo as informacións publicadas, os delitos que se lles imputan son de pornografía infantil e contra a intimidade e a integridade moral. Ser menor non apaga a responsabilidade: cambia o procedemento, non o feito.

Pasos

  1. Lectura individual do caso e unha soa pregunta escrita: a quen fai dano isto, e como? Lista de todas as persoas afectadas que se che ocorran, non só a que aparece na imaxe.
  2. En grupos de 3, cadea de responsabilidade. Para cada elo, decide se ten responsabilidade e de que tipo: quen fabrica a imaxe · quen a reenvía · quen a recibe e non fai nada · a aplicación que a xera · a plataforma pola que circula.
  3. Posta en común: onde estivo o desacordo? Case sempre está no terceiro elo.
  4. Peche práctico, e este é obrigatorio: que fas se che pasa a ti ou a alguén que coñeces? Escribide entre todos tres pasos concretos, en orde. Non borrar as probas é un deles.
Non se traballa con imaxes. Nesta actividade non se busca, non se abre e non se ensina ningunha imaxe manipulada. Trabállase co feito, coas consecuencias e coa lei. Se alguén está a pasar por algo así, díllelo á profesora ou a calquera persoa adulta do centro.
Criterio de logro: nomea polo menos tres persoas ou entidades afectadas (non só a que sae na imaxe) e asigna responsabilidade a polo menos tres elos da cadea xustificando por que.
Fontes:
  • Nota da Policía Nacional recollida pola axencia EFE o 6 de xullo de 2026: tres menores investigados na Región de Murcia por crear e difundir imaxes de compañeiras de clase manipuladas con IA.
  • Cobertura en Telecinco, Cope e El Debate (6 de xullo de 2026). Os delitos que se lles imputan, segundo esas informacións, son pornografía infantil e contra a intimidade e a integridade moral.
  • A denuncia partiu das nais e pais de tres das rapazas afectadas.
🏛P.2-2.4.2d · Caso real · Quen decide para que se pode usar unha IAPrepara o control

Febreiro de 2026. Unha empresa de intelixencia artificial ten na súa política de uso unha liña que prohibe empregar os seus modelos para certos usos en armamento autónomo. O Departamento de Defensa dos Estados Unidos, que é cliente, quere eses usos. A empresa non retira a liña. O 27 de febreiro o presidente ordena que as axencias federais e os contratistas militares deixen de usar a tecnoloxía desa empresa. Poucas horas despois, unha empresa competidora anuncia un acordo co Pentágono.

Non se discute aquí quen ten razón. Discútese a pregunta de debaixo: onde se decide o que unha IA pode e non pode facer? Hai tres sitios posibles —na política da empresa, no contrato do cliente, ou na lei— e cada un ten un problema distinto.

Pasos

  1. Individual: escribe nunha liña quen debería poder poñer ese límite, e por que.
  2. En grupos de 3, repartide as tres posturas de abaixo por sorteo. Non escolles a que pensas: defendes a que che toca. Cinco minutos para preparala.
  3. Rolda de defensa, dous minutos cada un, sen interromper.
  4. Peche individual: agora si, escribe a túa postura real e di que argumento da rolda che fixo dubidar.
Postura 1 · decídeo a empresaÉ quen constrúe o sistema e quen sabe do que é capaz. Se lle obrigan a aceptar calquera uso, ningunha empresa poderá nunca negarse a nada, e a autolimitación desaparece do mapa.
Postura 2 · decídeo o cliente, e máis se é un EstadoUn goberno elixido responde ante a cidadanía; unha empresa privada non responde ante ninguén. Que unha compañía impoña os seus valores á defensa dun país é poder sen mandato.
Postura 3 · decídeo a lei, e só a leiMentres a decisión dependa de quen negocia mellor, cambia con cada goberno e con cada contrato. Só unha norma pública, igual para todos, dá seguridade. O problema: a lei sempre chega tarde, e o Regulamento europeo de IA nin sequera se aplica aos usos militares.
Criterio de logro: defende a postura que lle tocou con polo menos dous argumentos propios e no peche identifica un argumento das outras posturas que lle fixo dubidar.
Fontes:
  • Servizo de Investigación do Congreso dos EUA (CRS), «Pentagon-Anthropic Dispute over Autonomous Weapon Systems: Potential Issues for Congress»: ler o informe.
  • Coberturas do 27 de febreiro de 2026 en CNN Business, CNBC, NPR, Al Jazeera e Federal News Network.
  • Regulamento (UE) 2024/1689 (Regulamento de IA), artigo 2: os usos exclusivamente militares e de defensa quedan fóra do seu ámbito de aplicación.
▶Vídeo de aula

Implicacións éticas e políticas da IA.

2.4 · Implicaciones éticas y políticas del diseño y uso de la IA

CA2.4Prueba escritaPE.2-2.4.1
Equidad. Trato justo y sin prejuicios, independientemente de género, raza u otras características.
Sesgo (bias). Distorsiones en los resultados de la IA por datos de entrenamiento parciales o prejuicios implícitos.
Discriminación algorítmica. Cuando la IA perpetúa desigualdades presentes en los datos.
Responsabilidad. Si la IA se equivoca, una persona o empresa debe responder — no la máquina.
Transparencia. Derecho a saber que interactúas con una IA y a entender cómo decide.

En detalle

Una herramienta no es buena ni mala en sí misma: lo que se juzga es para qué se usa y quién decide ese uso. La misma tecnología que encuentra un tumor en una radiografía puede servir para vigilar a la gente por la calle. El aparato es el mismo; la decisión, no.

Por eso, ante cualquier aplicación, hay tres preguntas que siempre se pueden hacer: a quién beneficia, a quién perjudica y quién responde si sale mal. Si la tercera no tiene respuesta, ahí está el problema.

Las preguntas que hay que saber hacer

  • Quién decide para qué se puede usar: la empresa que la hace, quien la compra, o una norma pública.
  • Quién queda fuera de la decisión aunque le afecte.
  • Qué pasa cuando la herramienta se usa contra la persona a la que decía ayudar.
Una cadena de cinco eslabones del mismo grosor: unas manos en un teclado, una flecha de reenvío, un móvil con una notificación sin abrir, el icono de una aplicación y una nube de servidor.

Casos reales para analizar

El sistema de contratación de Amazon que discriminaba a mujeres (NYT, 2018), un arresto erróneo por reconocimiento facial (NYT, 2020), la discriminación en la Apple Card (Reuters, 2019) y el accidente del coche autónomo de Uber (NYT, 2018).

☁P.2-2.4.2a · Nube de implicaciones (individual)Prepara el control

Nube de palabras con ≥20 términos pertinentes, con la herramienta del final de la página o a mano en papel.

Criterio de logro: ≥20 términos pertinentes sin repeticiones triviales.
✎P.2-2.4.2b · Análisis de una implicación (grupos de 3)Prepara el control

Investigar cómo surge, evaluar impactos, proponer soluciones y presentarlo; debate por turnos.

Criterio de logro: explica la implicación, evalúa impactos y propone ≥2 soluciones; participa todo el grupo.
⚖P.2-2.4.2c · Caso real · Cuando la herramienta se usa contra una compañeraPrepara el control

Julio de 2026. La Policía Nacional investiga a tres menores de un instituto de la Región de Murcia por crear y difundir imágenes de compañeras de clase manipuladas con inteligencia artificial. No hay ninguna herramienta rara en la historia: son aplicaciones que cualquiera puede abrir en el móvil. La denuncia la pusieron las familias de tres de las chicas afectadas, cuando las imágenes ya circulaban.

Esto no es «una broma que salió mal». Según las informaciones publicadas, los delitos que se les imputan son de pornografía infantil y contra la intimidad y la integridad moral. Ser menor no apaga la responsabilidad: cambia el procedimiento, no el hecho.

Pasos

  1. Lectura individual y una sola pregunta escrita: ¿a quién hace daño esto, y cómo? Lista de todas las personas afectadas que se te ocurran, no solo la que aparece en la imagen.
  2. En grupos de 3, cadena de responsabilidad. Para cada eslabón, decide si tiene responsabilidad y de qué tipo: quien fabrica la imagen · quien la reenvía · quien la recibe y no hace nada · la aplicación que la genera · la plataforma por la que circula.
  3. Puesta en común: ¿dónde estuvo el desacuerdo? Casi siempre está en el tercer eslabón.
  4. Cierre práctico, y este es obligatorio: ¿qué haces si te pasa a ti o a alguien que conoces? Escribid entre todos tres pasos concretos, en orden. No borrar las pruebas es uno de ellos.
No se trabaja con imágenes. En esta actividad no se busca, no se abre y no se enseña ninguna imagen manipulada. Se trabaja con el hecho, las consecuencias y la ley. Si alguien está pasando por algo así, díselo a la profesora o a cualquier persona adulta del centro.
Criterio de logro: nombra al menos tres personas o entidades afectadas (no solo la de la imagen) y asigna responsabilidad a al menos tres eslabones justificando por qué.
Fuentes:
  • Nota da Policía Nacional recogida por la agencia EFE o 6 de xullo de 2026: tres menores investigados en la Región de Murcia por crear y difundir imágenes de compañeras de clase manipuladas con IA.
  • Cobertura en Telecinco, Cope e El Debate (6 de xullo de 2026). Los delitos que se les imputan, según esas informaciones, son pornografía infantil e contra a intimidade e a integridade moral.
  • La denuncia partió de las madres y padres de tres de las chicas afectadas.
🏛P.2-2.4.2d · Caso real · Quién decide para qué se puede usar una IAPrepara el control

Febrero de 2026. Una empresa de inteligencia artificial tiene en su política de uso una línea que prohíbe emplear sus modelos para ciertos usos en armamento autónomo. El Departamento de Defensa de Estados Unidos, que es cliente, quiere esos usos. La empresa no retira la línea. El 27 de febrero el presidente ordena que las agencias federales y los contratistas militares dejen de usar la tecnología de esa empresa. Pocas horas después, una empresa competidora anuncia un acuerdo con el Pentágono.

Aquí no se discute quién tiene razón. Se discute la pregunta de debajo: ¿dónde se decide lo que una IA puede y no puede hacer? Hay tres sitios posibles —la política de la empresa, el contrato del cliente o la ley— y cada uno tiene un problema distinto.

Pasos

  1. Individual: escribe en una línea quién debería poder poner ese límite, y por qué.
  2. En grupos de 3, repartid las tres posturas por sorteo. No eliges la que piensas: defiendes la que te toca. Cinco minutos para prepararla.
  3. Ronda de defensa, dos minutos cada uno, sin interrumpir.
  4. Cierre individual: ahora sí, escribe tu postura real y di qué argumento de la ronda te hizo dudar.
Postura 1 · lo decide la empresaEs quien construye el sistema y quien sabe de qué es capaz. Si se le obliga a aceptar cualquier uso, ninguna empresa podrá negarse nunca a nada y la autolimitación desaparece.
Postura 2 · lo decide el cliente, y más si es un EstadoUn gobierno elegido responde ante la ciudadanía; una empresa privada no responde ante nadie. Que una compañía imponga sus valores a la defensa de un país es poder sin mandato.
Postura 3 · lo decide la ley, y solo la leyMientras dependa de quién negocie mejor, cambia con cada gobierno y cada contrato. Solo una norma pública e igual para todos da seguridad. El problema: la ley llega tarde, y el Reglamento europeo de IA ni siquiera se aplica a los usos militares.
Criterio de logro: defiende la postura que le tocó con al menos dos argumentos propios y en el cierre identifica un argumento ajeno que le hizo dudar.
Fuentes:
  • Servicio de Investigación del Congreso de EE. UU. (CRS), «Pentagon-Anthropic Dispute over Autonomous Weapon Systems: Potential Issues for Congress»: leer el informe.
  • Coberturas do 27 de febreiro de 2026 en CNN Business, CNBC, NPR, Al Jazeera e Federal News Network.
  • Regulamento (UE) 2024/1689 (Regulamento de IA), artigo 2: los usos exclusivamente militares y de defensa quedan fuera de su ámbito de aplicación.
▶Vídeo de clase

Implicaciones éticas y políticas de la IA.

2.4 · Implications éthiques et politiques

CA2.4Épreuve écritePE.2-2.4.1
Équité. Traitement juste et sans préjugés, indépendamment du genre, de la race ou d'autres caractéristiques.
Biais (bias). Distorsions dans les résultats de l'IA dues à des données d'entraînement partiales ou à des préjugés implicites.
Discrimination algorithmique. Quand l'IA perpétue des inégalités présentes dans les données.
Responsabilité. Si l'IA se trompe, une personne ou une entreprise doit répondre — pas la machine.
Transparence. Droit de savoir que l'on interagit avec une IA et de comprendre comment elle décide.

En détail

Un outil n'est ni bon ni mauvais en soi : ce qu'on juge, c'est à quoi il sert et qui décide de cet usage. La même technologie qui repère une tumeur sur une radiographie peut servir à surveiller les gens dans la rue. L'appareil est le même ; la décision, non.

C'est pourquoi, devant n'importe quelle application, il y a trois questions que l'on peut toujours poser : à qui cela profite, à qui cela nuit et qui répond si cela tourne mal. Si la troisième n'a pas de réponse, le problème est là.

Les questions à savoir poser

  • Qui décide des usages autorisés : le fabricant, l'acheteur, ou une règle publique.
  • Qui est exclu de la décision tout en la subissant.
  • Ce qui se passe quand l'outil est retourné contre celui qu'il devait aider.
Une chaîne de cinq maillons de même épaisseur : des mains sur un clavier, une flèche de transfert, un téléphone avec une notification non ouverte, l'icône d'une application et un nuage de serveur.

Cas réels à analyser

Le système de recrutement d'Amazon qui discriminait les femmes (NYT, 2018), une arrestation erronée par reconnaissance faciale (NYT, 2020), la discrimination sur l'Apple Card (Reuters, 2019) et l'accident de la voiture autonome d'Uber (NYT, 2018).

☁P.2-2.4.2a · Nuage d'implications (individuel)Prépare le contrôle

Crée un nuage de mots avec au moins 20 termes des implications éthiques et politiques de l'IA (équité, biais, discrimination, responsabilité, vie privée, transparence, contrôle…). Cela se fait avec l'outil qui se trouve en bas de cette page — il fonctionne sur cet ordinateur, sans compte et sans rien envoyer — ou à la main sur papier.

Critère de réussite : le nuage contient ≥20 termes pertinents pour le sujet, sans répétitions triviales.
✎P.2-2.4.2b · Analyse d'une implication (groupes de 3)Prépare le contrôle

Chaque groupe choisit une implication (par exemple le biais) et doit : chercher comment elle naît dans la conception et dans l'usage de l'IA ; évaluer les impacts positifs et négatifs ; proposer des solutions ; et créer une présentation numérique pour la communiquer. On termine par un débat à tour de rôle (ne pas respecter son tour est pénalisé) et une réflexion finale.

Critère de réussite : la présentation explique comment l'implication apparaît, évalue les impacts et propose au moins 2 solutions ; tout le groupe participe au débat.
⚖P.2-2.4.2c · Cas réel · Quand l'outil est utilisé contre une camaradePrépare le contrôle

Juillet 2026. La Police nationale espagnole enquête sur trois mineurs d'un collège de la région de Murcie pour avoir créé et diffusé des images de camarades de classe manipulées par IA. Aucun outil exotique : des applications que n'importe qui ouvre sur son téléphone. La plainte vient des familles de trois des jeunes filles concernées.

Ce n'est pas « une blague qui a mal tourné ». Selon les informations publiées, les faits relèvent de la pornographie infantile et des atteintes à l'intimité et à l'intégrité morale. Être mineur ne supprime pas la responsabilité : cela change la procédure, pas le fait.

Étapes

  1. Lecture individuelle et une seule question écrite : à qui cela fait-il du mal, et comment ?
  2. En groupes de 3, chaîne de responsabilité : celui qui fabrique · celui qui transfère · celui qui reçoit et ne fait rien · l'application · la plateforme.
  3. Mise en commun : où était le désaccord ? Presque toujours au troisième maillon.
  4. Clôture obligatoire : que fais-tu si cela t'arrive, à toi ou à quelqu'un que tu connais ? Trois étapes concrètes, dans l'ordre. Ne pas effacer les preuves en fait partie.
On ne travaille pas sur des images. On ne cherche, n'ouvre ni ne montre aucune image manipulée. On travaille le fait, les conséquences et la loi. Si quelqu'un vit cela, qu'il en parle à la professeure ou à un adulte de l'établissement.
Critère de réussite : nomme au moins trois personnes ou entités touchées et attribue une responsabilité à au moins trois maillons, avec justification.
Sources :
  • Communiqué de la Police nationale espagnole repris par l'agence EFE le 6 juillet 2026 : trois mineurs mis en cause dans la région de Murcie pour avoir créé et diffusé des images de camarades de classe manipulées par IA.
  • Couverture par Telecinco, Cope et El Debate (6 juillet 2026). Les chefs retenus, selon ces informations, relèvent de la pornographie infantile et des atteintes à l'intimité et à l'intégrité morale.
  • La plainte émane des parents de trois des jeunes filles concernées.
🏛P.2-2.4.2d · Cas réel · Qui décide à quoi une IA peut servirPrépare le contrôle

Février 2026. Une entreprise d'IA interdit, dans sa politique d'usage, certains emplois de ses modèles dans l'armement autonome. Le département de la Défense des États-Unis, client, veut ces emplois. L'entreprise maintient sa ligne. Le 27 février, le président ordonne aux agences fédérales et aux contractants militaires de cesser d'utiliser la technologie de cette entreprise. Quelques heures plus tard, une concurrente annonce un accord avec le Pentagone.

On ne discute pas ici de qui a raison, mais de la question dessous : où se décide ce qu'une IA peut faire ? Trois lieux possibles — la politique de l'entreprise, le contrat du client, la loi — chacun avec son problème.

Étapes

  1. Individuel : une ligne sur qui devrait fixer cette limite, et pourquoi.
  2. En groupes de 3, les trois positions sont tirées au sort. Tu ne choisis pas : tu défends celle qui te revient. Cinq minutes de préparation.
  3. Tour de parole, deux minutes chacun, sans interruption.
  4. Clôture individuelle : écris ta vraie position et quel argument t'a fait douter.
Position 1 · l'entreprise décideC'est elle qui construit et qui sait. L'obliger à tout accepter fait disparaître toute autolimitation.
Position 2 · le client décide, surtout un ÉtatUn gouvernement élu répond devant les citoyens ; une entreprise privée ne répond devant personne.
Position 3 · la loi décide, et elle seuleSinon tout dépend de qui négocie le mieux. Problème : la loi arrive tard, et le règlement européen sur l'IA ne s'applique même pas aux usages militaires.
Critère de réussite : défend la position tirée au sort avec au moins deux arguments propres et identifie en clôture un argument adverse qui l'a fait douter.
Sources :
  • Congressional Research Service (CRS), « Pentagon-Anthropic Dispute over Autonomous Weapon Systems » : lire le rapport.
  • Couvertures du 27 février 2026 : CNN Business, CNBC, NPR, Al Jazeera, Federal News Network.
  • Règlement (UE) 2024/1689 sur l'IA, article 2 : les usages exclusivement militaires et de défense sont exclus de son champ d'application.
▶Vidéo de cours

Implications éthiques et politiques de l'IA.

2.4 · الانعكاسات الأخلاقية والسياسية

CA2.4اختبار كتابيPE.2-2.4.1
الإنصاف. معاملة عادلة وبلا أحكام مسبقة، بصرف النظر عن الجنس أو العِرق أو غير ذلك من الخصائص.
التحيّز (bias). تشوّهات في نتائج الذكاء الاصطناعي بسبب بيانات تدريب منحازة أو أحكام مسبقة ضمنية.
التمييز الخوارزمي. حين يكرّس الذكاء الاصطناعي أوجه اللامساواة الموجودة في البيانات.
المسؤولية. إذا أخطأ الذكاء الاصطناعي، فعلى شخص أو شركة أن يتحمّل المسؤولية — لا الآلة.
الشفافية. الحقّ في معرفة أنك تتفاعل مع ذكاء اصطناعي وفي فهم كيف يقرّر.

بالتفصيل

ليست الأداة خيّرة ولا شرّيرة بذاتها؛ ما يُحاكَم هو فيمَ تُستعمل ومن يقرّر ذلك. فالتقنية نفسها التي تكشف ورمًا في صورة أشعّة قد تُستعمل لمراقبة الناس في الشارع. الجهاز واحد، أمّا القرار فلا.

ولذلك تصلح ثلاثة أسئلة أمام أيّ تطبيق: من يستفيد، ومن يتضرّر، ومن يتحمّل المسؤولية إن ساءت النتيجة. وإذا لم يكن للثالث جواب، فهناك المشكلة.

الأسئلة التي ينبغي إحسان طرحها

  • من يقرّر أوجه الاستعمال المسموحة: الشركة الصانعة، أم المشتري، أم قاعدة عامّة.
  • من يبقى خارج القرار وإن كان يمسّه.
  • ماذا يحدث حين تُستعمل الأداة ضدّ من كانت تدّعي مساعدته.
سلسلة من خمس حلقات متساوية السُّمك: يدان على لوحة مفاتيح، سهم إعادة إرسال، هاتف بإشعار غير مفتوح، أيقونة تطبيق، وسحابة خادم.

حالات حقيقية للتحليل

نظام التوظيف في أمازون الذي كان يميّز ضدّ النساء (NYT, 2018)، واعتقال خاطئ بسبب التعرّف على الوجوه (NYT, 2020)، والتمييز في بطاقة Apple Card (Reuters, 2019)، وحادث سيارة أوبر ذاتية القيادة (NYT, 2018).

☁P.2-2.4.2a · سحابة التداعيات (فردي)تحضير للاختبار

أنشئ سحابة كلمات تضم عشرين مصطلحًا على الأقل من التداعيات الأخلاقية والسياسية للذكاء الاصطناعي (الإنصاف، التحيّز، التمييز، المسؤولية، الخصوصية، الشفافية، التحكّم…). تُنجز بالأداة الموجودة في نهاية هذه الصفحة —تعمل على هذا الحاسوب نفسه، دون حساب ودون إرسال أي شيء— أو بخط اليد على الورق.

معيار الإنجاز: تضم السحابة ≥٢٠ مصطلحًا وثيق الصلة بالموضوع، دون تكرار بلا معنى.
✎P.2-2.4.2b · تحليل أحد التداعيات (مجموعات من ثلاثة)تحضير للاختبار

تختار كل مجموعة تداعيًا واحدًا (مثل التحيّز) وعليها: البحث في كيفية نشوئه في تصميم الذكاء الاصطناعي واستخدامه؛ وتقييم الآثار الإيجابية والسلبية؛ واقتراح حلول؛ وإعداد عرض رقمي لإيصاله. ويُختتم بنقاش بالأدوار (عدم احترام الدور يُخصم) ثم تأمل ختامي.

معيار الإنجاز: يشرح العرض كيف ينشأ التداعي، ويقيّم الآثار، ويقترح حلّين على الأقل؛ وتشارك المجموعة كلها في النقاش.
⚖P.2-2.4.2c · حالة حقيقية · حين تُستخدم الأداة ضد زميلةتحضير للاختبار

يوليو 2026. تحقّق الشرطة الوطنية الإسبانية مع ثلاثة قاصرين في ثانوية بمنطقة مُرسية لأنهم أنشأوا ونشروا صورًا لزميلاتهم مُعدَّلة بالذكاء الاصطناعي. لا أداة غريبة في القصة: تطبيقات يفتحها أي شخص على هاتفه. الشكوى قدّمها أهالي ثلاث من الفتيات بعد أن كانت الصور قد انتشرت.

هذه ليست «مزحة ساءت». وفق ما نُشر، التهم هي استغلال الأطفال في مواد إباحية والاعتداء على الخصوصية والسلامة المعنوية. كون الفاعل قاصرًا لا يُلغي المسؤولية؛ يغيّر الإجراء لا الفعل.

الخطوات

  1. قراءة فردية وسؤال مكتوب واحد: من يتضرّر من هذا وكيف؟ اذكر كل المتضررين لا الظاهرة في الصورة فقط.
  2. في مجموعات ثلاثية، سلسلة المسؤولية. ولكل حلقة، قرّروا هل تتحمّل مسؤولية ومن أي نوع: من يصنع الصورة · من يعيد إرسالها · من يتلقّاها ولا يفعل شيئًا · التطبيق الذي يولّدها · المنصّة التي تنتشر عبرها.
  3. مشاركة جماعية: أين كان الخلاف؟ غالبًا ما يكون عند الحلقة الثالثة.
  4. خاتمة عملية، وهي إلزامية: ماذا تفعل إن حدث لك أو لشخص تعرفه؟ اكتبوا معًا ثلاث خطوات محدّدة ومرتّبة. وعدم حذف الأدلة إحداها.
لا نعمل على صور. لا نبحث ولا نفتح ولا نعرض أي صورة معدَّلة. نعمل على الفعل والنتائج والقانون. من يمرّ بشيء كهذا فليخبر المعلّمة أو أي شخص بالغ في المركز.
معيار الإنجاز: يذكر ثلاثة أشخاص أو جهات متضرّرة على الأقل (لا الظاهرة في الصورة وحدها) ويُسند المسؤولية إلى ثلاث حلقات على الأقل من السلسلة مع تبرير السبب.
المصادر:
  • بيان للشرطة الوطنية الإسبانية نقلته وكالة EFE في 6 يوليو 2026: التحقيق مع ثلاثة قاصرين في منطقة مُرسية لإنشاء ونشر صور لزميلاتهم مُعدَّلة بالذكاء الاصطناعي.
  • تغطية في Telecinco وCope وEl Debate (6 يوليو 2026). والتهم المنسوبة إليهم، وفق تلك المعلومات، هي استغلال الأطفال في مواد إباحية والاعتداء على الخصوصية والسلامة المعنوية.
  • الشكوى قدّمها أهالي ثلاث من الفتيات المتضررات.
🏛P.2-2.4.2d · حالة حقيقية · مَن يقرّر فيمَ يُستخدم الذكاء الاصطناعيتحضير للاختبار

فبراير 2026. شركة ذكاء اصطناعي تمنع في سياسة الاستخدام لديها توظيف نماذجها في استخدامات معيّنة ضمن الأسلحة الذاتية. وزارة الدفاع الأمريكية، وهي عميل، تريد تلك الاستخدامات. الشركة لا تتراجع. في 27 فبراير يأمر الرئيس بأن تتوقّف الوكالات الفيدرالية والمتعاقدون العسكريون عن استخدام تقنية تلك الشركة. وبعد ساعات تعلن شركة منافسة اتفاقًا مع البنتاغون.

لا نناقش هنا من على حق، بل السؤال الأعمق: أين يُقرَّر ما يمكن للذكاء الاصطناعي فعله؟ ثلاثة مواضع ممكنة — سياسة الشركة، عقد العميل، أو القانون — ولكل منها مشكلته.

الخطوات

  1. فرديًا: سطر واحد عمّن ينبغي أن يضع هذا الحدّ ولماذا.
  2. في مجموعات ثلاثية، تُوزَّع المواقف الثلاثة بالقرعة. لا تختار ما تؤمن به بل تدافع عمّا وقع لك. خمس دقائق للتحضير.
  3. جولة دفاع، دقيقتان لكل واحد بلا مقاطعة.
  4. خاتمة فردية: اكتب موقفك الحقيقي، وأي حجّة جعلتك تتردّد.
الموقف 1 · الشركة تقرّرهي من يبني النظام ومن يعرف ما هو قادر عليه. وإذا أُلزمت بقبول أي استخدام، فلن تستطيع أي شركة أن ترفض شيئًا أبدًا، ويختفي التحديد الذاتي من الخريطة.
الموقف 2 · العميل يقرّر، وخاصة إن كان دولةالحكومة المنتخَبة مسؤولة أمام المواطنين؛ والشركة الخاصة ليست مسؤولة أمام أحد. وأن تفرض شركة قيمها على دفاع بلد هو سلطة بلا تفويض.
الموقف 3 · القانون وحده يقرّرما دام القرار رهن بمن يفاوض أفضل، فإنه يتغيّر مع كل حكومة ومع كل عقد. ولا تمنح الأمانَ إلا قاعدة عمومية واحدة للجميع. والمشكلة أن القانون يصل دائمًا متأخّرًا، واللائحة الأوروبية للذكاء الاصطناعي لا تنطبق أصلًا على الاستخدامات العسكرية.
معيار الإنجاز: يدافع عن الموقف الذي وقع له بحجّتين على الأقل ويحدّد في الخاتمة حجّة خصم جعلته يتردّد.
المصادر:
  • دائرة أبحاث الكونغرس الأمريكي (CRS)، «نزاع البنتاغون وAnthropic حول أنظمة الأسلحة الذاتية»: قراءة التقرير.
  • تغطيات 27 فبراير 2026 في CNN Business وCNBC وNPR والجزيرة وFederal News Network.
  • اللائحة الأوروبية 2024/1689 بشأن الذكاء الاصطناعي، المادة 2: الاستخدامات العسكرية والدفاعية الخالصة مستثناة من نطاقها.
▶فيديو الصف

الانعكاسات الأخلاقية والسياسية للذكاء الاصطناعي.

←
2.3
→
2.5 · Lexislación