Introducción a la Actividad Editorial · 22 min de lectura

Inteligencia artificial y sector editorial

Abrir en Cursada

⚠️ Borrador. Este apunte se armó a partir de los textos del campus, algunos escaneados. Los datos marcados [verificar] o [reconstruido] no están confirmados: contrastalos con la bibliografía. Si encontrás un error, avisame con 💡 Sugerencias.

Textos: Ossa (2020), Introducción · Bhaskar (2020), «La IA y las editoriales: ¿qué sigue?» · Espejo (2020), «¿Cuáles son las fronteras en los procesos de desarrollo de IA?» · Fariñas (2020), «Inteligencia artificial y derecho de autor» · Barrientos y Contardo (2020), «Estudio de las medidas que contemplan las leyes de consumo…» · Rengifo (2020), «¿La inteligencia artificial, más allá del ser humano?» · Ruz (2020), «IA y perfiles profesionales en el sector editorial». Todos en Inteligencia artificial: transformaciones y retos en el sector editorial, dosier del Cerlalc-Unesco (Bogotá, octubre de 2020) | Tiempo estimado de lectura: 25 min

Mapa rápido #

• El dosier del Cerlalc (Centro Regional para el Fomento del Libro en América Latina y el Caribe) busca «hacernos las preguntas correctas» sobre la IA en la cadena del libro; no ofrece fórmulas (pág. 6). Responde a la Unidad 5 (edición digital: prácticas, cadena de valor, actores, situación internacional) y toca la Unidad 4 (derechos, políticas públicas) y la Unidad 1 (profesionalización, actores).
• Bhaskar (editor) muestra el impacto de la IA en cada etapa: gestión, predicción de ventas, corrección, traducción, escritura, venta. Espejo (filósofo) explica qué es la IA y dónde están sus límites técnicos y éticos.
• Fariñas, Barrientos y Contardo y Rengifo son los textos jurídicos: autoría y titularidad (derecho de autor), información al lector-consumidor (derecho de consumo) y uso de obras para entrenar IA (excepciones de minería de datos).
• Ruz baja todo a políticas públicas: nuevos perfiles profesionales, formación y brecha digital en América Latina.
• Hilo común: la IA no reemplaza al editor ni al autor, pero redefine tareas, concentra poder en las grandes plataformas y deja vacíos legales.

Ossa (2020): Introducción del Cerlalc (págs. 5-6) #

Tesis central #

La IA es una «realidad científica tangible» que automatizará eslabones de la producción y difusión del libro; no elimina el trabajo humano, pero abre brechas de capital humano y afecta la competitividad del sector editorial latinoamericano.

Conceptos y datos #

• Machine learning / Deep learning: base de la ola actual, posible por el aumento de la capacidad de cómputo y el big data.
• Ejemplos de creación con IA: la novela japonesa que participó de un concurso sin que el jurado notara que era de una IA; el algoritmo Little Ice de Microsoft (10.000 poemas); WASP, robot poeta de Pablo Gervás (U. Complutense); Digital Deepak (Deepak Chopra y The AI Foundation).
• La regulación latinoamericana (derecho de autor, consumo, datos personales, imagen, competencia) no contempla los escenarios de la IA: pide cambios estructurales.
• Líneas del Cerlalc para 2020-2021: brecha digital y alfabetización tecnológica; contratos inteligentes (smart contracts) para el sector creativo; inserción de los autores en las cadenas de valor digitales; modernización de los perfiles profesionales.
• Autor de la introducción: Andrés Ossa, director del Cerlalc.

Bhaskar (2020): «La IA y las editoriales: ¿qué sigue?» (págs. 7-17) #

Michael Bhaskar: escritor, cofundador de la editorial Canelo, escritor residente en DeepMind (2017-2019); autor de La máquina de contenido (FCE, 2013) y Curaduría (FCE, 2017).

Tesis central #

La IA es una tecnología de propósito general (como el vapor o la electricidad) que reconfigura todo el proceso de la edición. Los editores no deben entrar en pánico (los humanos seguirán siendo necesarios por su presencia y su responsabilidad), pero el mundo del libro está muy lejos de la frontera tecnológica, dominada por la «Gran Tecnología» (Amazon, Google; Silicon Valley y Shenzhen), por lo que necesita apoyo del Estado y una política inteligente (págs. 16-17).

Conceptos clave #

• Enfoque simbólico: la idea de que programando suficientes reglas e información un sistema sería inteligente. Dominó los años sesenta y setenta (Marvin Minsky, MIT).
• Invierno de la IA (años ochenta y noventa): el enfoque simbólico resultó limitado, se agotaron la financiación y el interés.
• Aprendizaje profundo (deep learning) (Geoffrey Hinton): sistemas que aprenden e imitan estructuralmente al cerebro; es un caso del aprendizaje automático (ML), hoy el subconjunto más importante de la IA.
• Dos impulsos del nuevo auge: chips de procesamiento paralelo masivo y grandes datos para entrenar (pág. 10).
• Tecnología de propósito general: no solo mejora lo existente, exige un rediseño del proceso comercial (como la electrificación).
• Procesamiento del lenguaje natural (PNL): capacidad de las máquinas de «entender» y componer lenguaje; más difícil que el reconocimiento de imágenes.
• Centauro: combinación humano-máquina (como en el ajedrez actual), modelo propuesto para la escritura.
• Libros generados por procedimiento: mercado masivo de libros personalizados «escritos» en el acto según los gustos del lector.

La IA en cada etapa de la cadena (lo más evaluable) #

Ejemplos, fechas y nombres #

• Conferencia de Dartmouth (años cincuenta): formaliza el campo; los asistentes creían que la IA llegaría en unos treinta años (pág. 9).
• DeepMind (británica; adquirida por Google en 2014) venció a Lee Sedol, campeón de Go, en 2016; AlphaGo hizo la jugada 37 del segundo juego, «locura» que resultó decisiva y se leyó como salto creativo (pág. 15).
• Más de 80.000 millones de dólares invertidos en empresas de IA desde 2010 (pág. 10). Amazon y Google gastan unos 40.000 millones al año en I+D y capital [verificar el alcance de la cifra; el texto no es claro].
• OpenAI (cofundada por Elon Musk) no quiso lanzar GPT-2 al principio por el riesgo de uso malintencionado.
• Cuando el coronavirus cerró las librerías, los e-books «salvaron» a los editores de EE. UU. y Reino Unido (pág. 8).
• Riesgos señalados: concentración en las plataformas (los principales beneficiarios serán ellas, no autores y editores), que «los libros vuelvan a bajar de categoría», y pérdida de la estructura de editores internos y freelance.
• Recomendaciones: explorar canales que esquiven las plataformas, destacar lo humano y lo físico, marcas y experiencias.

Espejo (2020): «¿Cuáles son las fronteras en los procesos de desarrollo de IA?» (págs. 19-32) #

Juan Camilo Espejo: doctor en Filosofía (Warwick), especialista en filosofía de la mente.

Tesis central #

La principal frontera de la IA no es solo técnica: hace falta un marco filosófico, ético y jurídico. El aprendizaje de las redes neuronales las vuelve cajas negras (opacas, frágiles, poco confiables), por lo que la investigación no puede quedar solo en manos de ingenieros: también deben participar filósofos, abogados, sociólogos, psicólogos, antropólogos y médicos (pág. 32).

Conceptos clave #

• Sistemas artificiales: máquinas complejas que funcionan como motores de cambio (autos autónomos, aspiradoras, asistentes domésticos, análisis médico), agrupadas bajo «IA».
• Dificultad de definir la IA: no hay una caracterización fuerte de la inteligencia natural; las ciencias cognitivas (computación, neurología, psicología, filosofía, antropología, lingüística) estudian las mentes naturales y están lejos de caracterizarla.
• Máquina de Turing (Alan Turing, 1936): cinta, cabeza de lectura y escritura y unidad lógica; permite implementar cualquier algoritmo y es base de los computadores digitales.
• Test de Turing (1950, «Computing machinery and intelligence»): cambia la pregunta abstracta «¿puede pensar una máquina?» por una empírica: ¿puede hacerse pasar por humano ante un juez humano? Hoy solo se superan versiones restringidas.
• Deep Blue (IBM): venció a Kasparov en 1997 con un enfoque de instrucciones explícitas: función evaluadora, búsqueda en árbol de decisión (minimiza las ganancias del oponente, maximiza las propias). Era transparente para sus diseñadores y los ingenieros lo modificaron a mano durante la partida (Kasparov alegó trampa).
• Red neuronal artificial: nodos de entrada, intermedios y salida; los pesos de conexión se ajustan por entrenamiento (prueba y error con datos). Las redes profundas (muchas capas intermedias) necesitan macrodatos y mucha velocidad de cómputo.
• Caja negra: ni los diseñadores pueden explicar por qué la red acierta o falla (AlphaGo; el caso del despixelador de caras, que devolvió una cara que no era la de Obama).
• XIA (explainable artificial intelligence): giro hacia sistemas explicables, condición para usos éticos y para que no reproduzcan patrones discriminatorios.

Distinciones #

Ejemplos, fechas y nombres #

• Deep Blue evaluaba cerca de 50.000 millones de jugadas en tres minutos [verificar]. Fue «diez veces más lento» que un procesador Intel i7 comercial (pág. 25).
• Deep Blue marca, para Espejo, el comienzo del invierno de la IA: ganó al ajedrez pero no podía moverse por un laboratorio (pág. 24). Nuevo auge en el siglo XXI: mejor hardware y big data.
• La editorial Springer publicó lo que considera el primer libro de investigación producido por una máquina (Lithium-Ion Batteries: A Machine-Generated Summary of Current Research, 2019; autora «Beta Writer»).
• Marcos normativos citados: Comisión Europea (grupo de expertos de alto nivel; IA «ética y segura», «centrada en el ser humano») y OCDE.
• Los datos de entrenamiento con sesgos producen errores que un sujeto no sesgado no cometería. En áreas críticas (diagnóstico, justicia, conducción) el margen de error es muy bajo.

Fariñas (2020): «Inteligencia artificial y derecho de autor: consideraciones sobre la autoría y la titularidad» (págs. 34-50) #

José Rafael Fariñas: abogado venezolano, director regional para América Latina de la CISAC.

Tesis central #

El derecho de autor vigente no protege las producciones generadas por una IA sin aporte creativo de una persona física, porque el sistema se basa en el principio de autoría humana y en la originalidad (pág. 49). Las alternativas de protección (derechos conexos, derecho sui generis, dominio público) siguen en debate.

Conceptos clave #

• Originalidad: no está en el tema sino en la forma de expresión: la obra debe llevar la impronta de su autor y poder distinguirse de otras del mismo género. El TJUE (casos Infopaq y Painer) la liga a «decisiones libres y creativas» del autor.
• Autor: el Convenio de Berna no lo define, pero varias disposiciones (derechos morales, art. 6 bis; duración, vida más cincuenta años, art. 7.1) implican a una persona física. La Decisión 351 de la Comunidad Andina (art. 3) lo dice expresamente, y las leyes de México, Perú, Panamá, Paraguay, etc.
• Software: protegido como obra literaria (Berna art. 2.1; ADPIC art. 10; Tratado de la OMPI sobre Derecho de Autor, art. 4). Los algoritmos (reglas, procedimientos, métodos) no se protegen: el derecho de autor cubre expresiones, no ideas (ADPIC art. 9.2).
• Tres objetos posibles de protección: el software, el algoritmo y el resultado (output) generado por la IA; el debate se centra en el tercero.
• Creatividad según Margaret Boden: capacidad de generar ideas o artefactos nuevos y valiosos. Tres modelos: combinatoria (combina ideas conocidas de modos desconocidos), exploratoria (explora una forma de pensar con valor cultural; la que mejor encaja con la IA) y transformacional (cambia concepciones estilísticas). Para Boden la «IA fuerte» sería imposible porque falta el metabolismo, requisito de la vida.
• IA débil/asistida vs. generada: Fariñas pide distinguir las obras asistidas por IA de las generadas por IA, y separar «entrada», software y «salida».

Distinciones: cuatro formas de atribuir autoría (Ginsburg y Budiardjo) #

Los tres primeros suponen un aporte sustancial humano.

Propuestas de protección de las producciones sin autor humano #

1. Derechos conexos o afines: protegen la inversión «técnico-organizativa» (fonogramas, radiodifusión, bases de datos no creativas).
2. Derecho sui generis, similar al del fabricante de bases de datos (Directiva europea 96/9/CE), para proteger la inversión; Ginsburg lo ve prematuro sin evidencia empírica.
3. Dominio público con un derecho de divulgación (similar al art. 4 de la Directiva 2006/116/CE), propuesta de Ana Ramalho.

Ejemplos, casos y nombres #

• Casos de IA creativa: Robin Sloan (novela con software de ML), The Next Rembrandt (2016, algoritmos de aprendizaje profundo), DeepBach, DAC (Deep Artificial Composer), listas de Spotify con música de IA.
• Jurisprudencia: Naruto v. Slater (la selfi del mono: los animales carecen de legitimación bajo la ley de derecho de autor de EE. UU.); Urantia Foundation v. Maaherra (hace falta algún elemento de creatividad humana); Feilin v. Baidu (Tribunal de Internet de Beijing, 2019): un reporte generado por IA no es obra; ni el desarrollador ni el usuario son autores; la inversión merece otra protección.
• La OMPI impulsa un diálogo sobre IA y propiedad intelectual (última sesión citada: 7-9 de julio de 2020).
• Debate sobre riesgos: Elon Musk y Stephen Hawking (amenaza) frente a Steven Pinker (confunde inteligencia con motivación).
• Cita de Concepción Saiz: el principio de autoría, fundamento del sistema continental europeo, se opone a un derecho si el resultado no es fruto de la inteligencia humana.

Barrientos y Contardo (2020): «Estudio de las medidas que contemplan las leyes de consumo…» (págs. 52-62) #

Francisca Barrientos y Juan Ignacio Contardo: abogados, Universidad de los Andes (Chile).

Tesis central #

No hay obstáculo desde el derecho del consumo para publicar obras generadas por IA, pero hay que cumplir deberes de información y no incurrir en publicidad engañosa: el lector-consumidor debe poder saber que el autor es una IA (págs. 61-62).

Conceptos clave #

• Consumidor: parte débil o vulnerable de la relación de consumo (asimetría de información y de negociación); sus derechos son irrenunciables. Las leyes de consumo suponen personas físicas o jurídicas; con una IA creadora no hay contraparte humana.
• Derecho a la información: garantía para romper la asimetría y favorecer la libertad de elección. Rige en todas las fases del contrato (precontractual, perfeccionamiento, ejecución).
• Transparencia: la información debe ser comprensible, en lenguaje claro y de lectura rápida.
• Publicidad engañosa: la hecha «a sabiendas o debiendo saber», por engaño o error sobre los elementos esenciales del producto. Ejemplo: no avisar que es un producto creado de modo artificial o atribuirle otro autor.
• Promociones y ofertas: deben ser veraces e informar condiciones y duración. Ejemplo problemático: el perfilado de clientes para personalizar ofertas alterando el precio.

Qué hay que informar (resumen del texto) #

• Que el autor es una IA.
• Cómo se generó el contenido (características esenciales; el modelo es el libro de baterías de Springer: producción artificial, por autoaprendizaje, que resume artículos humanos, no conocimiento nuevo).
• En letra de tamaño legible (algunas leyes fijan un tamaño: Chile, 2,5 mm; Perú, 3 mm no inferior; Nicaragua, tamaño 12; Argentina, Bolivia y otras no lo fijan).
• De manera transparente y comprensible.

Alcance: leyes de consumo de 20 países de la región (Argentina: Ley 24.240 de 1993).

Rengifo (2020): «¿La inteligencia artificial, más allá del ser humano?» (págs. 64-81) #

Andrés Mauricio Rengifo: abogado colombiano (U. Externado), especialista en propiedad intelectual.

Tesis central #

La IA es una herramienta creada por y para el ser humano; no emula la creatividad humana y no debe someterlo. Se necesita un «nuevo renacimiento», una emancipación del ser humano frente a la tecnología, y un modelo económico en el que los datos tengan valor también del lado del suministro (de quien los genera), no solo del procesamiento.

Conceptos clave #

• Desmitificar la IA: es una categoría de las ciencias de la computación que diseña sistemas inteligentes y autónomos a partir del conocimiento de la inteligencia humana; su percepción está más informada por la fantasía (ciencia ficción) que por la realidad. Distingue IA con fines particulares de IA general.
• Dos aproximaciones: sistemas expertos o aprendizaje simbólico (información codificada + reglas lógicas; se agota) y Machine learning (modelos estadísticos y reconocimiento de patrones; en múltiples dimensiones, como encender la luz de todo un cuarto frente a una linterna). Tipos de aprendizaje (nota 15): supervisado, no supervisado y por refuerzo.
• Cuarta revolución industrial: la que, según el autor, tendrá efectos más profundos que las anteriores (vapor; electricidad; computadoras e internet).
• Datos como insumo y como combustible de la IA: la IA no opera sin datos; importa la conducencia (que sean los pertinentes) más que la abundancia. Hoy el valor se captura en el procesamiento, por lo que pocas plataformas capitalizan los datos.
• Trazabilidad de datos: tecnologías como el blockchain y la privacidad diferenciada permiten atribuir los datos a quien los generó.

Aplicación a la edición #

• La IA ya ayuda en analítica, operación y producción editorial: afinar la narrativa según la audiencia (Textio), anticipar el éxito de un texto (QualiFiction).
• GPT-2: predice la palabra siguiente y genera párrafos coherentes, pero su coherencia es superficial: personajes que aparecen y desaparecen sin lógica, diálogos sin rumbo. «No existe todavía IA que emule la creatividad humana»; la creatividad está «por encima de la inteligencia».
• Datos de entrenamiento y derecho de autor: las IA necesitan copiar contenidos protegidos para «aprender» el estilo. Varios países flexibilizan: Estados Unidos (doctrina del fair use; casos HathiTrust v. Google Books y Fox v. TV Eyes), Japón (excepción general), y también Australia, Canadá, Israel, Singapur y Tailandia (minería de datos).
• Unión Europea (Directiva 2019/790, de 17 de abril de 2019): art. 3, excepción de minería de textos y datos para investigación científica (organismos de investigación y patrimonio cultural); art. 4, excepción general salvo que el titular haya reservado sus derechos (por ejemplo, de forma legible por máquinas en contenido en línea). Esa reserva abriría una nueva línea de ingresos: el autor podría licenciar sus obras o datos a los desarrolladores de IA. Plazo de transposición: 2021.

Principios para regular la IA #

• Principios de Asilomar (enero de 2017, Instituto del Futuro de la Vida): 23 principios; destaca valores humanos (11), beneficio compartido (14), prosperidad compartida (15).
• Principios de la OCDE (22 de mayo de 2019, adoptados por el G20 en junio de 2019): crecimiento inclusivo y valores centrados en el ser humano.
• Pide leerlos con mirada crítica para que no perpetúen el statu quo.
• Criterio de realidad de Harari: pregunta si el protagonista de la historia puede sufrir; la IA no sufre, quien sufre es el ser humano.

Ruz (2020): «IA y perfiles profesionales en el sector editorial» (págs. 83-92) #

Franz Ruz: abogado consultor de Naciones Unidas, profesor de posgrado. Escrito por encargo del Cerlalc; excluye expresamente la IA que crea contenidos.

Tesis central #

Hay que diseñar políticas públicas que doten de competencias digitales en IA a los profesionales del libro e incorporen nuevos perfiles a la cadena de valor, partiendo de la brecha digital de América Latina (la IA depende del grado de digitalización de la sociedad).

Conceptos clave #

• IA (definiciones de OCDE/UNCTAD y Comisión Europea): máquinas que realizan tareas cognitivas con análisis, razonamiento o aprendizaje similares al humano, con cierto grado de autonomía para lograr objetivos.
• Responsable de I+D: la figura transversal que propone incorporar. Tareas: identificar tendencias, valorar tecnologías (oferta de contenidos del libro de texto, redes sociales, marketing, procesos internos), buscar socios (multinacionales, startups, universidades) y financiación de la innovación, fomentar la cultura de la innovación y diseñar nuevos productos (editoriales educativas y literatura infantil y juvenil), y detectar necesidades de capacitación.
• Customer Intelligence: conocer a los lectores por sus interacciones en redes para recomendar, fidelizar y segmentar; puede orientar estrategia editorial (por ejemplo, libros de no ficción por encargo).
• Análisis de datos para editoriales educativas: medir qué productos complementarios (recursos en red, serious games, material audiovisual) fidelizan a alumnos y sobre todo a profesores, grandes prescriptores. Estas tareas pueden externalizarse, pero el responsable interno debe saber dar directrices.
• Utilidad desigual: una editorial de poesía o de nicho no se beneficia igual; sirve más a medianas y grandes, o a pequeñas que apunten a un público masivo.

Herramientas de IA disponibles (estado de la técnica) #

Recomendaciones de política pública #

• Reducir la brecha digital; sumar la voz del sector del libro en esas políticas.
• Alianzas editoriales-tecnológicas (ya existentes en libro de texto con Google o Microsoft). Ejemplo: proyecto LEIA (Lengua Española e Inteligencia Artificial) de la RAE y la ASALE con Telefónica, Google, Amazon, Microsoft, Twitter y Facebook.
• Fomento del emprendimiento en IA aplicado al libro (Start-Up Chile, Start-Up México, iNNpulsa Colombia): evita el alto costo fijo de un equipo propio.
• Formación: asignaturas digitales en posgrados de edición y formación profesional para personal de apoyo.
• Mapa de oportunidades digitales por país (no es igual México que Bolivia o Guatemala) y mapa latinoamericano de desarrollos de IA.
• Exportación de servicios editoriales con IA; caso: videojuegos educativos de Ecuador vendidos en España como material de libro de texto.
• Protección de datos personales y ciberseguridad («e-confianza»): clave en editoriales educativas, que manejan datos de menores. En España existe el delegado de protección de datos; Argentina y Uruguay destacan en la región.
• Referentes internacionales: China (meta de liderar la IA en 2030; su límite es el capital humano) e India (NITI Aayog estimó en 2018 que la IA puede sumar un billón de dólares a su economía).

Línea de tiempo #

Cuadro comparativo / Quién dijo qué #

Lo imprescindible (repaso de 5 minutos) #

• Dosier Cerlalc (octubre de 2020): preguntas, no fórmulas; la regulación latinoamericana no prevé la IA.
• Bhaskar: la IA es tecnología de propósito general; no hay que entrar en pánico; el libro está lejos de la frontera técnica (Amazon, Google).
• Historia: Dartmouth (años cincuenta) → auge simbólico (60-70) → invierno (80-90) → ML/deep learning con chips paralelos + big data → AlphaGo 2016 → GPT-2 (2019) y GPT-3 (2020).
• Etapas afectadas: predicción y marketing, corrección, traducción (primero los textos funcionales, últimos los literarios), escritura («centauro»), venta (recomendación de Amazon).
• Espejo: Deep Blue (instrucciones explícitas, transparente) vs. redes neuronales (aprenden, cajas negras); hace falta XIA.
• Fariñas: sin aporte creativo humano no hay obra ni autor; el algoritmo no se protege, el software sí (como obra literaria); Naruto, Feilin v. Baidu.
• Alternativas para los outputs sin autor: derechos conexos, derecho sui generis, dominio público + derecho de divulgación.
• Boden: creatividad combinatoria, exploratoria y transformacional; la IA se ajusta mejor a la exploratoria.
• Consumo: informar que el autor es una IA y cómo se generó, en forma legible y comprensible; no engañar en la publicidad.
• Rengifo: entrenar IA exige copiar obras; EE. UU. y Japón flexibilizan (fair use, excepciones); la UE permite la minería salvo reserva de derechos, lo que abre una fuente de ingresos para el autor.
• Principios: Asilomar (2017) y OCDE (2019, adoptados por el G20).
• Ruz: crear la figura del responsable de I+D; herramientas de plagio, royalties y apoyo a corrección y traducción (no sustituyen al humano).
• Políticas: brecha digital, alianzas con tecnológicas (LEIA), emprendimiento, formación, protección de datos.