Ciudadanía digital: El territorio que nadie nos enseñó a habitar

Ciudadanía digital ya no es saber usar apps: es disputar quién decide los algoritmos

Videos falsos en campañas electorales de Argentina y Brasil. El rostro de una mujer manipulado por IA sin su consentimiento. Una voz clonada que le cuesta los ahorros a un adulto mayor. Un estudiante que entrega como propio lo que un chatbot inventó con total confianza. No son escenas de una serie distópica. Son lo que ocurre cuando una tecnología se despliega a escala masiva sin que nadie —ni quienes la usan, ni quienes la diseñan, ni quienes deberían regularla— se haya detenido a preguntar para qué.

La inteligencia artificial generativa llegó con la promesa de democratizar la creatividad y la productividad. Lo que trajo, en paralelo, fue la amplificación de riesgos que ya existían. La desinformación se volvió industrial. La suplantación de identidad se automatizó. La precarización cognitiva —esa costumbre de delegar en un bot hasta el pensamiento básico— se convirtió en hábito sin que mediara reflexión alguna. Y mientras tanto, la pregunta de fondo sigue sin responderse: ¿qué tipo de ciudadanía estamos formando y cuál es la que necesitamos?

En América Latina, la cuestión tiene un peso extra. Porque aquí no solo se trata de adoptar tecnologías creadas en otros lugares con otras lenguas, otros sesgos y otros intereses. Se trata de habitar espacios digitales cuyas reglas se escriben en junta directiva en California o en Beijing, mientras las democracias locales intentan remar contracorriente con recursos escasos y voluntades políticas que cambian con cada gestión. La ciudadanía digital en la región no es solo un concepto educativo: es un campo de disputa por soberanía.

La trampa de la responsabilidad individual

Cuando ocurre un fraude con voz clonada o un desastre educativo por el mal uso de un chatbot, la respuesta institucional suele apuntar al mismo lugar: “hay que alfabetizar”, “los usuarios deben ser más críticos”, “falta formación”. Es cierto. Pero también es una forma de desplazar la responsabilidad. Porque la alfabetización digital, por más necesaria que sea, no puede operar en el vacío. No sirve de nada enseñar a detectar desinformación si los algoritmos están diseñados para premiar el contenido que más enoja. No alcanza con pedir prudencia si la infraestructura digital empuja exactamente en dirección contraria.

Ahí es donde el discurso de la responsabilidad individual choca con la realidad estructural. Las plataformas no son neutrales. Sus sistemas de recomendación no están pensados para fomentar el pensamiento crítico, sino para maximizar el tiempo de pantalla. Los modelos de IA no se entrenan con criterios de bien común, sino con conjuntos de datos que reflejan sesgos históricos y prioridades comerciales. Pedirle a un ciudadano que navegue con cuidado en un ecosistema diseñado para capturarlo es como pedirle a un peatón que esquive autos en una autopista sin aceras.

Lo que necesitan los Estados, entonces, no es solo campañas de concientización. Necesitan marcos regulatorios que establezcan límites claros a quienes diseñan, despliegan y comercializan estos sistemas. Transparencia algorítmica, trazabilidad de los datos, rendición de cuentas por daños, estándares de seguridad que no dependan de la buena voluntad corporativa. Reglas que no cambien con el humor del funcionario de turno, sino políticas de Estado que sostengan condiciones estructurales para que el pensamiento crítico pueda ejercerse de verdad.

Cuando la ciudadanía exige sentarse a diseñar

Hablar de ciudadanía digital en la era de la IA implica ir más allá del rol de usuario. No se trata solo de consumir tecnología con criterio, sino de preguntarse quién decide cómo se diseñan esos sistemas. ¿Qué datos se usan para entrenar los modelos? ¿Qué voces quedan afuera de esas decisiones? ¿Qué intereses guían las aplicaciones que después llegan a nuestras escuelas, hospitales, tribunales y calles? Una ciudadanía digital robusta no espera a que le entreguen herramientas ya hechas: reclama participar en las decisiones sobre diseño, implementación y evaluación.

En ese sentido, la aparición de Latam-GPT —el modelo de lenguaje grande presentado por Chile con financiamiento público y apoyo de instituciones académicas y organizaciones de la sociedad civil de toda la región— marca un punto de inflexión. No solo porque busca reducir los sesgos culturales y lingüísticos que traen los sistemas desarrollados en el Norte global, sino porque cambia el paradigma: América Latina ya no solo consume IA, empieza a producirla con criterios propios. Uruguay, Brasil, Colombia, México, Perú, Ecuador y Argentina están ahí. No es un proyecto de un país: es una apuesta regional por disputar las reglas.

En Plétora Network, donde el cruce entre tecnología, cultura y política es el pan de cada día, esta discusión resuena con fuerza. Porque la pregunta de fondo no es técnica: es política. Decidir qué tipo de inteligencia artificial queremos es decidir qué tipo de sociedad queremos construir. Y en una región que ha sido históricamente exportadora de materias primas e importadora de tecnología hecha por otros, asumir ese desafío es también una cuestión de soberanía.

Disputar el modelo, no solo adaptarse

Las derechas de la región lo entendieron antes que muchos. Sus discursos individualistas y meritocráticos encontraron en las infraestructuras digitales un aliado perfecto: plataformas diseñadas para fragmentar, polarizar y premiar la indignación. Mientras tanto, del otro lado, la respuesta no puede limitarse a pedir “mejor contenido” o “más educación”. Porque la batalla no se libra solo en el terreno de los mensajes, sino en el de la arquitectura misma de los espacios digitales.

No se trata de adaptarse a la IA. Se trata de intervenir en cómo se diseña, cómo se regula y cómo se integra en nuestras sociedades. La ciudadanía digital en la era de la inteligencia artificial es, fundamentalmente, una intervención política. Implica entender que cada vez que delegamos una decisión en un algoritmo sin preguntar cómo funciona, estamos cediendo soberanía. Y que cada vez que exigimos transparencia, participación pública y estándares que protejan derechos, estamos ejerciendo ciudadanía en su sentido más pleno.

Las escenas con las que empezó esta nota —los videos falsos, los rostros manipulados, las voces clonadas, las tareas hechas por chatbot sin cuestionamiento— no son anécdotas aisladas. Son síntomas de un modelo que avanza más rápido que nuestra capacidad colectiva de ponerle límites. Y también son el recordatorio de que, si no intervenimos, las decisiones sobre cómo vivimos, cómo nos informamos, cómo nos relacionamos y hasta cómo pensamos quedarán en manos de unos pocos.

La buena noticia es que hay grietas. Latam-GPT es una. Las organizaciones que empujan por regulaciones sólidas en cada país son otra. Los espacios como Plétora Network, que construyen infraestructura propia con otra lógica, también. La ciudadanía digital no se decreta: se ejerce. Y en América Latina, donde la dependencia tecnológica ha sido históricamente una forma de colonización silenciosa, empezar a disputar el diseño de los sistemas que nos gobiernan es, quizás, el acto político más urgente de estos años.