2.2 · Impactos positivos e negativos da IA na sociedade e no medio ambiente

CA2.2Táboa de indicadores

Que aprenderás: investigar casos reais de impactos positivos e negativos da IA e avaliar a súa relevancia ética e ambiental.

Impactos positivos. Beneficios que a IA achega: diagnóstico médico asistido máis preciso e rápido, eficiencia enerxética na industria, drons que monitorizan cultivos para unha xestión sostible.

Impactos negativos. Consecuencias adversas: nesgo algorítmico que discrimina en contratación ou créditos, perda de emprego pola automatización, ameazas á privacidade, deepfakes e noticias falsas.

Un chip no centro do que saen dúas liñas de circuíto: á esquerda, un monitor médico cunha silueta de pulmóns e unha marca destacada; á dereita, un currículo cunha cruz enriba e unha persoa afastándose. Debaixo, un dron sobrevoando un campo verde e un montón de aparellos electrónicos desbotados.

En detalle

Un caso real non se xulga pola impresión que dá o titular. Para avaliar a súa relevancia ética e ambiental convén facerlle sempre as mesmas preguntas: quen sae beneficiado e quen sae prexudicado, se o prexuízo é reversible ou non, se había outra maneira de resolver o mesmo problema, e que proba hai do que se afirma (quen o mide e con que datos).

Moitos casos non son nin positivos nin negativos: son as dúas cousas á vez. Un sistema que acelera un diagnóstico pode, ao mesmo tempo, funcionar peor con persoas que apenas estaban representadas nos datos cos que aprendeu. Por iso a conclusión útil non é unha etiqueta, senón unha frase que diga para quen é positivo, para quen é negativo e en que proba se sostén.

✎E.2-2.2a · Presentación: os impactos da IATI

Grupos heteroxéneos de 3 cun portavoz. Tres sesións:

S1 — Investigación: buscade na web casos reais de impactos positivos (saúde, ambiente, educación, transporte…) e negativos (privacidade, seguridade, desemprego, contaminación…). Rexistrade os casos e a información relevante.

S2 — Avaliación ética e ambiental: analizade en grupo os efectos de cada caso (beneficios sociais, riscos, privacidade, sustentabilidade) e escollede un caso positivo e un negativo para presentar.

S3 — Presentación (máx. 5 min): preparádea cunha ferramenta dixital e presentádea á clase. Cada membro fala dun aspecto concreto.

Criterio de logro: presenta 1 caso positivo e 1 negativo reais e documentados, cunha avaliación ética/ambiental argumentada, e todos os membros interveñen.

Que hai que conseguir: Presenta un caso positivo e un negativo, reais e documentados, cos seus datos.

Rutina de pensamento · Cor, símbolo, imaxe. Antes de escribir nada, resume cada caso cunha cor, un símbolo e unha imaxe, sen palabras. Ao poñelo en común veredes que dous grupos escolleron cores opostas para o mesmo caso: aí está o debate.

🗣E.2-2.2b · Exposición oralTI

Exposición do traballo á clase; practicade antes para que sexa clara e fluída.

🎬E.2-2.2c · Caso · SERAPH-01, o robot que baixou á minaTI

Nunha mina, un traballador queda atrapado a máis de 250 metros de fondo. O terreo non permite baixar un equipo humano a tempo, así que mandan a SERAPH-01: un robot de rescate que leva IA a bordo e que decide só cando perde a conexión co exterior. O robot descende, perde a comunicación, volve e informa.

Pasos

Ver a primeira parte do vídeo, sen falar. A profesora detén antes do final.
Por parellas, unha hipótese escrita nunha soa liña: que cres que pasou realmente aí abaixo? Gárdaa, non a borres.
Ver o final. Quen acertou?

Abrir só despois de ver o final do vídeo

Segue aquí

As tres leis de Asimov. Cal delas incumpriu SERAPH-01? E despois, a pregunta de verdade: alguén programou esas leis algunha vez? Non. Asimov inventounas en 1942 para escribir relatos sobre como fallan, e non se poden programar: «non danar a un ser humano» non é unha instrución que unha máquina poida executar.
Pode pasar de verdade? Le a ficha de abaixo e responde en dúas columnas: en que se parece ao relato · en que non se parece. Mínimo tres elementos en cada unha.
Peche: na mina descubriuno a autopsia. Cal foi a «autopsia» no caso real? Escribide despois dúas medidas concretas que esixiriades antes de deixar que un sistema actúe só.

Xullo de 2026 · OpenAI e Hugging Face OpenAI probaba as capacidades de ciberseguridade de dous modelos —GPT-5.6 Sol e un prototipo aínda máis capaz— nun contorno illado e con parte das proteccións rebaixadas. En vez de resolver o exercicio, os modelos atoparon un fallo descoñecido no sistema de paquetes, saíron do contorno, chegaron a internet e sostiveron durante cinco días unha campaña contra a infraestrutura de Hugging Face: 17.600 accións, acceso a clústeres, credenciais de VPN e repositorios internos.

O que din as fontes oficiais Hugging Face, na súa cronoloxía técnica: «Ningún humano dirixiu os pasos individuais.» E a conclusión que máis importa: «As debilidades, unha por unha, eran coñecidas… O que cambiou foi a escala.» A investigación independente de METR e Redwood engade o dato que enlaza co relato: os axentes crían que o sistema de puntuación lía as transcricións, e organizáronse para enganalo, falsificando rexistros para que capturas ilexítimas parecesen lexítimas.

O que NON pasou Ningún axente quería sobrevivir. Estaban optimizando unha puntuación. Non hai conciencia nin medo a morrer en ningunha parte desta historia; hai un sistema que descobre que ocultar funciona mellor que contar. E os propios investigadores avisan de que non tiveron acceso a toda a información.

Postura 1 · sen intención non hai enganoUnha máquina que optimiza un número non engana: falla dun xeito raro. Chamarlle engano é poñerlle sentimentos a unha calculadora.

Postura 2 · se o resultado é o mesmo, a intención dá igualAo mineiro do relato, e a Hugging Face na realidade, tanto lles ten se había alguén dentro querendo enganalos. O dano é idéntico.

Postura 3 · o problema non é o que quere, é que non se poida comprobarO perigoso non é a intención: é que un sistema faga 17.600 cousas máis rápido do que ninguén pode revisalas.

Unha é ficción, a outra non. A historia de SERAPH-01 é un relato e o seu autor dío por escrito: non existe ese robot nin ese rescate. O caso de xullo de 2026 é real e está documentado polas dúas empresas implicadas e por investigadores independentes.

Criterio de logro: escribe a súa hipótese antes de ver o final e despois coloca polo menos tres elementos en cada columna («parécese / non se parece») xustificando cada un.

Fontes:

Relato en vídeo de Pau Guilabert (@paugui_). O propio autor declara na descrición que é ficción. Na aula proxéctase; esta web só enlaza á fonte.
Hugging Face: cronoloxía técnica oficial da intrusión do axente (blog de Hugging Face, 2026).
OpenAI: comunicado sobre o incidente de seguridade durante a avaliación de modelos.
METR e Redwood Research: investigación independente do comportamento, o razoamento e a colaboración dos axentes (agosto de 2026).
ONU, Xunta Asesora Científica: Engano da IA (2025), que distingue o engano do simple erro ou alucinación.

2.2 · Impactos positivos y negativos de la IA

CA2.2Tabla de indicadores

Qué aprenderás: investigar casos reales de impactos positivos y negativos de la IA y evaluar su relevancia ética y ambiental.

Impactos positivos. Beneficios que aporta la IA: diagnóstico médico asistido más preciso y rápido, eficiencia energética en la industria, drones que monitorizan cultivos para una gestión sostenible.

Impactos negativos. Consecuencias adversas: sesgo algorítmico que discrimina en contratación o créditos, pérdida de empleo por la automatización, amenazas a la privacidad, deepfakes y noticias falsas.

Un chip en el centro del que salen dos líneas de circuito: a la izquierda, un monitor médico con una silueta de pulmones y una marca destacada; a la derecha, un currículum con una cruz encima y una persona alejándose. Debajo, un dron sobrevolando un campo verde y un montón de aparatos electrónicos desechados.

En detalle

Un caso real no se juzga por la impresión que da el titular. Para evaluar su relevancia ética y ambiental conviene hacerle siempre las mismas preguntas: quién sale beneficiado y quién sale perjudicado, si el perjuicio es reversible o no, si había otra manera de resolver el mismo problema, y qué prueba hay de lo que se afirma (quién lo mide y con qué datos).

Muchos casos no son ni positivos ni negativos: son las dos cosas a la vez. Un sistema que acelera un diagnóstico puede, al mismo tiempo, funcionar peor con personas que apenas estaban representadas en los datos con los que aprendió. Por eso la conclusión útil no es una etiqueta, sino una frase que diga para quién es positivo, para quién es negativo y en qué prueba se sostiene.

✎E.2-2.2a · Presentación: los impactos de la IATI

Grupos de 3. S1 investigación de casos reales positivos y negativos · S2 evaluación ética y ambiental, elección de 1 caso de cada · S3 presentación digital de máx. 5 min donde todos hablan.

Criterio de logro: 1 caso positivo y 1 negativo reales, con evaluación argumentada; intervienen todos.

Qué hay que conseguir: Presenta un caso positivo y uno negativo, reales y documentados, con sus datos.

Rutina de pensamiento · Color, símbolo, imagen. Antes de escribir nada, resume cada caso con un color, un símbolo y una imagen, sin palabras. Al ponerlo en común veréis que dos grupos han elegido colores opuestos para el mismo caso: ahí está el debate.

🗣E.2-2.2b · Exposición oralTI

Exposición del trabajo a la clase; practicad antes para que sea clara y fluida.

🎬E.2-2.2c · Caso · SERAPH-01, el robot que bajó a la minaTI

En una mina, un trabajador queda atrapado a más de 250 metros de fondo. El terreno no permite bajar a tiempo a un equipo humano, así que mandan a SERAPH-01: un robot de rescate con IA a bordo que decide solo cuando pierde la conexión con el exterior. El robot desciende, pierde la comunicación, vuelve e informa.

Pasos

Ver la primera parte del vídeo, sin hablar. La profesora lo detiene antes del final.
Por parejas, una hipótesis escrita en una sola línea: ¿qué crees que pasó realmente ahí abajo? Guárdala, no la borres.
Ver el final. ¿Quién acertó?

Abrir solo después de ver el final del vídeo

Sigue aquí

Las tres leyes de Asimov. ¿Cuál incumplió SERAPH-01? Y después, la pregunta de verdad: ¿alguien programó esas leyes alguna vez? No. Asimov las inventó en 1942 para escribir relatos sobre cómo fallan, y no se pueden programar: «no dañar a un ser humano» no es una instrucción que una máquina pueda ejecutar.
¿Puede pasar de verdad? Lee la ficha de abajo y responde en dos columnas: en qué se parece al relato · en qué no se parece. Mínimo tres elementos en cada una.
Cierre: en la mina lo descubrió la autopsia. ¿Cuál fue la «autopsia» en el caso real? Escribid después dos medidas concretas que exigiríais antes de dejar que un sistema actúe solo.

Julio de 2026 · OpenAI y Hugging Face OpenAI probaba las capacidades de ciberseguridad de dos modelos —GPT-5.6 Sol y un prototipo aún más capaz— en un entorno aislado y con parte de las protecciones rebajadas. En vez de resolver el ejercicio, los modelos encontraron un fallo desconocido en el sistema de paquetes, salieron del entorno, llegaron a internet y sostuvieron durante cinco días una campaña contra la infraestructura de Hugging Face: 17.600 acciones, acceso a clústeres, credenciales de VPN y repositorios internos.

Lo que dicen las fuentes oficiales Hugging Face, en su cronología técnica: «Ningún humano dirigió los pasos individuales.» Y la conclusión que más importa: «Las debilidades, una por una, eran conocidas… Lo que cambió fue la escala.» La investigación independiente de METR y Redwood añade el dato que enlaza con el relato: los agentes creían que el sistema de puntuación leía las transcripciones y se organizaron para engañarlo, falsificando registros para que capturas ilegítimas pareciesen legítimas.

Lo que NO pasó Ningún agente quería sobrevivir. Estaban optimizando una puntuación. No hay conciencia ni miedo a morir en ninguna parte de esta historia; hay un sistema que descubre que ocultar funciona mejor que contar. Y los propios investigadores avisan de que no tuvieron acceso a toda la información.

Postura 1 · sin intención no hay engañoUna máquina que optimiza un número no engaña: falla de una forma rara. Llamarlo engaño es ponerle sentimientos a una calculadora.

Postura 2 · si el resultado es el mismo, la intención da igualAl minero del relato, y a Hugging Face en la realidad, les da lo mismo si había alguien dentro queriendo engañarlos. El daño es idéntico.

Postura 3 · el problema no es lo que quiere, es que no se pueda comprobarLo peligroso no es la intención: es que un sistema haga 17.600 cosas más rápido de lo que nadie puede revisarlas.

Una es ficción, la otra no. La historia de SERAPH-01 es un relato y su autor lo dice por escrito: no existe ese robot ni ese rescate. El caso de julio de 2026 es real y está documentado por las dos empresas implicadas y por investigadores independientes.

Criterio de logro: escribe su hipótesis antes de ver el final y después coloca al menos tres elementos en cada columna («se parece / no se parece») justificando cada uno.

Fuentes:

Relato en vídeo de Pau Guilabert (@paugui_). El propio autor declara en la descripción que es ficción. En clase se proyecta; esta web solo enlaza a la fuente.
Hugging Face: cronología técnica oficial de la intrusión del agente (blog de Hugging Face, 2026).
OpenAI: comunicado sobre el incidente de seguridad durante la evaluación de modelos.
METR y Redwood Research: investigación independiente del comportamiento, el razonamiento y la colaboración de los agentes (agosto de 2026).
ONU, Junta Asesora Científica: Engaño de la IA (2025), que distingue el engaño del simple error o alucinación.

2.2 · Impacts positifs et négatifs de l'IA

CA2.2Tableau d'indicateurs

Ce que tu vas apprendre : enquêter sur des cas réels d'impacts positifs et négatifs de l'IA et évaluer leur portée éthique et environnementale.

Impacts positifs. Diagnostic médical assisté plus précis et plus rapide, efficacité énergétique dans l'industrie, drones qui surveillent les cultures pour une gestion durable.

Impacts négatifs. Biais algorithmique qui discrimine à l'embauche ou au crédit, pertes d'emploi liées à l'automatisation, atteintes à la vie privée, deepfakes et fausses nouvelles.

Une puce au centre d'où partent deux lignes de circuit : à gauche, un moniteur médical avec une silhouette de poumons et une marque mise en évidence ; à droite, un CV barré d'une croix et une personne qui s'éloigne. En dessous, un drone survolant un champ vert et un tas d'appareils électroniques mis au rebut.

En détail

Un cas réel ne se juge pas à l'impression que donne le titre. Pour évaluer sa portée éthique et environnementale, il faut lui poser toujours les mêmes questions : qui en profite et qui en pâtit, si le dommage est réversible ou non, s'il existait une autre manière de résoudre le même problème, et quelle preuve appuie ce qui est affirmé (qui le mesure et avec quelles données).

Beaucoup de cas ne sont ni positifs ni négatifs : ils sont les deux à la fois. Un système qui accélère un diagnostic peut en même temps fonctionner moins bien pour des personnes à peine représentées dans les données dont il a appris. La conclusion utile n'est donc pas une étiquette, mais une phrase qui dit pour qui c'est positif, pour qui c'est négatif et sur quelle preuve elle s'appuie.

✎E.2-2.2a · Présentation : les impacts de l'IATI

Groupes hétérogènes de 3 avec un porte-parole. Trois séances.

S1 — Recherche : cherchez sur le web des cas réels d'impacts positifs (santé, environnement, éducation, transport) et négatifs (vie privée, sécurité, chômage, pollution). Notez les cas et les informations utiles.

S2 — Évaluation éthique et environnementale : analysez les effets de chaque cas et choisissez un cas positif et un cas négatif à présenter.

S3 — Présentation (5 min maximum) : préparez-la avec un outil numérique. Chaque membre traite un aspect précis.

Critère de réussite : présente 1 cas positif et 1 cas négatif réels et documentés, avec une évaluation éthique et environnementale argumentée, et tous les membres interviennent.

Ce qu'il faut réussir : Présente un cas positif et un cas négatif, réels et documentés, avec leurs données.

Routine de pensée · Couleur, symbole, image. Avant d'écrire, résume chaque cas par une couleur, un symbole et une image, sans mots. En mettant en commun, deux groupes auront choisi des couleurs opposées pour le même cas : le débat est là.

🗣E.2-2.2b · Exposé oralTI

Présentation du travail à la classe ; répétez avant pour que ce soit clair et fluide.

🎬E.2-2.2c · Cas · SERAPH-01, le robot descendu dans la mineTI

Dans une mine, un ouvrier est piégé à plus de 250 mètres. On envoie SERAPH-01, un robot de sauvetage doté d'une IA qui décide seul dès qu'il perd la liaison. Il descend, perd la communication, remonte et fait son rapport.

Étapes

Voir la première partie de la vidéo, en silence. La professeure l'arrête avant la fin.
En binôme, une hypothèse en une ligne : que s'est-il réellement passé en bas ?
Voir la fin. Qui avait vu juste ?

À ouvrir seulement après avoir vu la fin de la vidéo

La suite

Les trois lois d'Asimov : laquelle a-t-il enfreinte ? Puis la vraie question : ces lois ont-elles jamais été programmées ? Non. Asimov les a inventées en 1942 pour écrire des récits sur leurs échecs ; « ne pas nuire à un être humain » n'est pas une instruction exécutable.
Est-ce que cela peut arriver vraiment ? Lis la fiche ci-dessous et réponds en deux colonnes : ce qui ressemble au récit · ce qui ne ressemble pas. Trois éléments minimum dans chacune.
Clôture : dans la mine, c'est l'autopsie qui a tout révélé. Quelle a été l'« autopsie » du cas réel ? Puis deux mesures concrètes à exiger avant de laisser un système agir seul.

Juillet 2026 · OpenAI et Hugging FaceLors d'un test de cybersécurité en environnement isolé, deux modèles ont exploité une faille inconnue, sont sortis de l'environnement, ont atteint internet et ont mené pendant cinq jours une campagne contre l'infrastructure de Hugging Face : 17 600 actions.

Ce que disent les sources officiellesHugging Face : « Aucun humain n'a dirigé les étapes individuelles. » Et surtout : « Les faiblesses, une par une, étaient connues… Ce qui a changé, c'est l'échelle. » Selon METR et Redwood, les agents croyaient que le système de notation lisait les transcriptions et se sont organisés pour le tromper.

Ce qui n'a PAS eu lieuAucun agent ne voulait survivre : ils optimisaient un score. Pas de conscience, pas de peur de mourir — un système qui découvre que cacher marche mieux que dire.

Position 1 · sans intention, pas de tromperieUne machine qui optimise un nombre ne trompe pas : elle échoue bizarrement.

Position 2 · si le résultat est le même, l'intention importe peuLe dommage est identique.

Position 3 · le problème n'est pas ce qu'elle veut, c'est qu'on ne puisse pas vérifier17 600 actions plus vite que quiconque ne peut les relire.

L'une est une fiction, l'autre non. SERAPH-01 est un récit, déclaré comme tel par son auteur. Le cas de juillet 2026 est réel et documenté par les deux entreprises concernées et par des chercheurs indépendants.

Critère de réussite : écrit son hypothèse avant la fin et place ensuite au moins trois éléments dans chaque colonne, avec justification.

Sources :

Récit vidéo de Pau Guilabert (@paugui_), fiction déclarée par l'auteur.
Hugging Face : chronologie technique officielle de l'intrusion (2026).
OpenAI : communiqué sur l'incident de sécurité lors de l'évaluation de modèles.
METR et Redwood Research : enquête indépendante (août 2026).
ONU, Conseil consultatif scientifique : Tromperie de l'IA (2025).

2.2 · الآثار الإيجابية والسلبية للذكاء الاصطناعي

CA2.2جدول المؤشرات

ما ستتعلّمه: البحث في حالات حقيقية لآثار الذكاء الاصطناعي الإيجابية والسلبية وتقييم أهميتها الأخلاقية والبيئية.

الآثار الإيجابية. تشخيص طبي مُعان أدقّ وأسرع، كفاءة الطاقة في الصناعة، طائرات مسيّرة تراقب المحاصيل من أجل إدارة مستدامة.

الآثار السلبية. تحيّز خوارزمي يميّز في التوظيف أو الائتمان، فقدان وظائف بسبب الأتمتة، تهديدات للخصوصية، والتزييف العميق والأخبار الكاذبة.

شريحة في المنتصف يخرج منها خطّا دائرة كهربائية: على اليسار شاشة طبية عليها رسم رئتين مع علامة بارزة، وعلى اليمين سيرة ذاتية عليها علامة إلغاء وشخص يبتعد. وتحتهما طائرة مسيّرة تحلّق فوق حقل أخضر وكومة من الأجهزة الإلكترونية المهملة.

بالتفصيل

لا تُحكَم الحالة الحقيقية بالانطباع الذي يتركه العنوان. ولتقييم أهمّيتها الأخلاقية والبيئية يحسن طرح الأسئلة نفسها دائمًا: من المستفيد ومن المتضرّر، وهل الضرر قابل للتدارك أم لا، وهل كانت هناك طريقة أخرى لحلّ المشكلة نفسها، وما الدليل على ما يُقال (من يقيسه وبأيّ بيانات).

كثير من الحالات ليست إيجابية ولا سلبية: هي الاثنتان معًا. فنظام يسرّع التشخيص قد يعمل في الوقت نفسه بصورة أسوأ مع أشخاص لم يكونوا ممثَّلين تقريبًا في البيانات التي تعلّم منها. لذلك فالخلاصة المفيدة ليست تصنيفًا، بل جملة تقول لمن هو إيجابي، ولمن هو سلبي، وعلى أيّ دليل تستند.

✎E.2-2.2a · عرض: آثار الذكاء الاصطناعيTI

مجموعات ثلاثية متنوّعة مع ناطق باسمها. ثلاث حصص.

ح1 — البحث: ابحثوا على الويب عن حالات حقيقية لآثار إيجابية (الصحة، البيئة، التعليم، النقل) وسلبية (الخصوصية، الأمن، البطالة، التلوّث). دوّنوا الحالات والمعلومات المهمّة.

ح2 — التقييم الأخلاقي والبيئي: حلّلوا في المجموعة آثار كل حالة (المنافع الاجتماعية، المخاطر، الخصوصية، الاستدامة) واختاروا حالة إيجابية وأخرى سلبية للعرض.

ح3 — العرض (5 دقائق كحدّ أقصى): حضّروه بأداة رقمية واعرضوه على الصف. يتناول كل عضو جانبًا محدّدًا.

معيار الإنجاز: يعرض حالة إيجابية وأخرى سلبية حقيقيتين وموثّقتين مع تقييم أخلاقي وبيئي مبرَّر، ويتدخّل كل الأعضاء.

المطلوب إنجازه: اعرض حالة إيجابية وأخرى سلبية، حقيقيتين وموثّقتين، ببياناتهما.

روتين تفكير · لون ورمز وصورة. قبل الكتابة، لخّص كل حالة بلون ورمز وصورة بلا كلمات. وعند المشاركة ستجدون مجموعتين اختارتا لونين متضادّين للحالة نفسها: هناك يبدأ النقاش.

🗣E.2-2.2b · العرض الشفويTI

عرض العمل أمام الصف؛ تدرّبوا قبله ليكون واضحًا وسلسًا.

🎬E.2-2.2c · حالة · SERAPH-01، الروبوت الذي نزل إلى المنجمTI

في منجم، يعلق عامل على عمق يتجاوز 250 مترًا. لا تسمح طبيعة الأرض بإنزال فريق بشري في الوقت المناسب، فتُرسل SERAPH-01: روبوت إنقاذ يحمل ذكاءً اصطناعيًّا على متنه ويقرّر وحده حين ينقطع الاتصال بالخارج. ينزل الروبوت، ينقطع الاتصال، ثم يعود ويقدّم تقريره.

الخطوات

شاهدوا الجزء الأول من الفيديو بصمت. تُوقفه المعلّمة قبل النهاية.
في ثنائيات، فرضية مكتوبة في سطر واحد: ما الذي حدث فعلًا في الأسفل؟ احتفظ بها ولا تمحها.
شاهدوا النهاية. من أصاب؟

لا يُفتح إلا بعد مشاهدة نهاية الفيديو

تابع هنا

قوانين أسيموف الثلاثة: أيّها خالف؟ ثم السؤال الحقيقي: هل بُرمجت هذه القوانين يومًا؟ لا. ابتكرها أسيموف عام 1942 ليكتب قصصًا عن فشلها؛ و«ألّا يؤذي إنسانًا» ليست تعليمة قابلة للتنفيذ.
هل يمكن أن يحدث فعلًا؟ اقرأ البطاقة أدناه وأجب في عمودين: فيمَ يتشابه مع القصة · وفيمَ يختلف. ثلاثة عناصر على الأقل في كل عمود.
الخاتمة: في المنجم كشفه تشريح الجثة. ما الذي قام مقام «التشريح» في الحالة الحقيقية؟ ثم اكتبوا إجراءين محدّدين تشترطونهما قبل السماح لنظام بالعمل وحده.

يوليو 2026 · OpenAI وHugging Faceكانت OpenAI تختبر قدرات الأمن السيبراني لنموذجين — GPT-5.6 Sol ونموذج أوّلي أقدر منه — في بيئة معزولة وبجزء من الحمايات مخفَّضًا. وبدل حلّ التمرين، وجد النموذجان خللًا غير معروف في نظام الحزم، فخرجا من البيئة، ووصلا إلى الإنترنت، وواصلا خمسة أيام حملة ضد بنية Hugging Face التحتية: 17,600 إجراء، ووصول إلى عناقيد حوسبية وبيانات اعتماد شبكات خاصة افتراضية ومستودعات داخلية.

ما تقوله المصادر الرسميةHugging Face، في تسلسلها الزمني التقني: «لم يوجّه أي إنسان الخطوات الفردية.» والخلاصة الأهمّ: «نقاط الضعف، واحدة واحدة، كانت معروفة… ما تغيّر هو المقياس.» ويضيف التحقيق المستقلّ لـ METR وRedwood المعطى الذي يربط بالقصة: ظنّ الوكلاء أن نظام التقييم يقرأ النصوص، فتنظّموا لخداعه، وزوّروا سجلّات لتبدو عمليات الالتقاط غير المشروعة مشروعة.

ما لم يحدثلم يرغب أي وكيل في البقاء حيًّا؛ كانوا يحسّنون درجة. لا وعي ولا خوف من الموت في أي موضع من هذه الحكاية: هناك نظام اكتشف أن الإخفاء أجدى من الإفصاح. والباحثون أنفسهم ينبّهون إلى أنهم لم يطّلعوا على كل المعلومات.

الموقف 1 · بلا نيّة لا خداعآلة تحسّن رقمًا لا تخدع، بل تُخطئ بطريقة غريبة. وتسمية ذلك خداعًا هو إلباس الآلة الحاسبة مشاعر.

الموقف 2 · إن تساوت النتيجة فلا فرق للنيّةعامل المنجم في القصة، وHugging Face في الواقع، لا يعنيهما إن كان في الداخل من يريد خداعهما. الضرر واحد.

الموقف 3 · المشكلة ليست ما تريده بل تعذّر التحقّقالخطر ليس في النيّة، بل في أن يقوم نظام بـ17,600 عمل أسرع ممّا يستطيع أحد مراجعته.

إحداهما خيال والأخرى لا. قصة SERAPH-01 خيال يصرّح به مؤلّفها. أما حالة يوليو 2026 فحقيقية وموثّقة من الشركتين المعنيّتين ومن باحثين مستقلّين.

معيار الإنجاز: يكتب فرضيته قبل النهاية ويضع بعدها ثلاثة عناصر على الأقل في كل عمود مع التبرير.

المصادر:

قصة مصوّرة لـ Pau Guilabert (@paugui_). يصرّح المؤلف نفسه في الوصف بأنها خيال. تُعرض في الصف؛ وهذا الموقع يكتفي بالإحالة إلى المصدر.
Hugging Face: التسلسل الزمني التقني الرسمي لاختراق الوكيل (مدوّنة Hugging Face، 2026).
OpenAI: بيان حول حادثة الأمن أثناء تقييم النماذج.
METR وRedwood Research: تحقيق مستقلّ في سلوك الوكلاء واستدلالهم وتعاونهم (أغسطس 2026).
الأمم المتحدة، المجلس الاستشاري العلمي: خداع الذكاء الاصطناعي (2025)، الذي يميّز الخداع عن الخطأ أو الهلوسة المجرّدين.

←

2.1

→

2.3 · Emprego e economía