INTRODUCCIÓN
⌅Un importante trabajo para las Ciencias Sociales consiste en la identificación de fenómenos relacionados con las novedosas implementaciones de sistemas de Inteligencia Artificial (IA). Especialmente en cuanto a sus efectos sociales y psicológicos, que requieren de toda supervisión para llevar a buen destino la misión que la corriente más optimista de los discursos que la abordan le atribuye: superar nuestras propias capacidades y límites humanos a fin de mejorar nuestras vidas. Una observación y vigilancia necesaria pero comprometida por la velocidad a la que se desarrollan e incorporan, lo que dificulta ver sus riesgos potenciales. Aquí nos hacemos la siguiente pregunta ¿cómo estamos interactuando con la Inteligencia Artificial? Para responder a ello podemos valernos de la etnografía y la teoría antropológica, las cuales pueden resultar fructíferas en este campo, como pretendo hacer ver a continuación con un caso concreto: la negociación que se produce entre los youtubers y las redes neuronales artificiales que deciden el destino de sus producciones.
Hasta 2016 la plataforma YouTube basaba su funcionamiento en algoritmos que, en base a parámetros definidos, establecían la manera de recomendar contenidos. Descifrar mediante ingeniería inversa los criterios que seguía la plataforma se convirtió en el reto de muchos youtubers. Quien «destripara el algoritmo» tendría una ventaja competitiva sobre los demás creadores/as. Un youtuber de divulgación científica se refería a este conocimiento como el «Santo Grial»1Crespo Cepeda, José Luis [QuantumFracture] El Algoritmo de YouTube YA NO EXISTE | Redes Neuronales (25 de diciembre de 2017). [Archivo de vídeo] Recuperado de <https://www.youtube.com/watch?v=JBZx03342eM> (min 2:30). Fecha de acceso: 09/01/21.. Posteriormente, YouTube optó por implementar redes neuronales artificiales para resolver los problemas de optimización que requiere procesar y clasificar las más de quinientas horas de vídeos subidos cada minuto, generando un nuevo escenario de incertidumbres para los participantes.
Entre noviembre de 2019 y mayo de 2020 conviví y trabajé con un creador de contenidos profesional de la plataforma2En concreto, administré dos canales con 1.800.000 y 600.000 suscriptores respectivamente. Al haber tratado con un personaje público como informante, su identidad se mantendrán en el anonimato., lo que supuso una posición privilegiada para realizar las observaciones que aquí se comparten. Cabe destacar que uno de mis cometidos fue diseñar estrategias que le ayudasen a fortalecer su posición en YouTube, lo que inexorablemente condujo a analizar el comportamiento de estas redes y, paralelamente, a profundizar en la relación que construyen los youtubers con estas, cómo las significan y cómo les afectan cotidianamente. Así, mediante esta aproximación, es mi intención proporcionar una serie de reflexiones teóricas y observaciones destinadas a orientar a otros investigadores e investigadoras en el área. Una base sobre la que abrir una nueva discusión en términos que están aún por explorar y desarrollar en profundidad. A este respecto, se incluyen enlaces de vídeo a pie de página que posibilitan compartir algunas observaciones aquí vertidas, permitiendo a la comunidad investigadora realizar las suyas propias. Estos enlaces son parte del material etnográfico, y se proporcionan con la finalidad de dar voz a los etnografiados, equilibrando las teorizaciones con ejemplos directos.
REDES NEURONALES Y SISTEMAS DE RECOMENDACIÓN
⌅Una red neuronal es una tecnología de computación que transforma valores de entrada en otros valores que a su vez son transformados consecutivas veces hasta los valores de salida por sucesivas capas. Para el observador, su interior es desconocido. Es una caja negra. Solo conocemos inputs y outputs. Tienen la capacidad de reconocer patrones y pertenecen al modelo conexionista o estadístico de la IA. Estas son capaces de arrojar resultados sin generar explicaciones sobre los fenómenos modelados (Reynoso 2006 :153Reynoso, Carlos. 2006.Complejidad y caos: una exploración antropológica. Argentina: Sb.).
Las redes neuronales que controlan el sistema de recomendaciones de YouTube se responsabilizan de facilitar el descubrimiento de contenido personalizado para más de mil millones de usuarios en el mundo. Dos trabajan conjuntamente3En otras ocasiones se habla de tres redes o de un conjunto indeterminado de ellas.. La primera selecciona un subconjunto de contenidos potencialmente relevantes a partir de eventos del historial de actividad del usuario. La segunda puntúa a cada candidato en base a las características que componen tanto al usuario como al vídeo. Esto decide lo privilegiada que será cada publicación en el ranking, esto es, su posicionamiento. Así es explicado por los mismos ingenieros que trabajaron en su diseño (Covington, Adams y Sargin 2016Covington, Paul, Jay Adams y Emre Sargin. 2016. «Deep Neural Networks for YouTube RECOMMENDATIONS». Proceedings of the 10th ACM Conference on Recommender Systems: 191-198. doi: <https://doi.org/10.1145/2959100.2959190>.). La tarea de estas redes sería maximizar el engagement4La función objetivo no está del todo clara. Es decir, se busca «maximizar la retención», «mejorar la experiencia de usuario» u «ofrecer contenido personalizado». Paralelamente a lo que declare la plataforma, se puede suponer que en conjunto se busca aumentar el retorno económico. El filósofo y youtuber Ernesto Castro, por ejemplo, asegura que poner anuncios en sus vídeos contribuye a que YouTube los muestre a más personas. Véase, Castro, Ernesto [Ernesto Castro] Youtubers, edutubers y curators (12 de febrero de 2021) [Archivo de vídeo] recuperado de <https://www.youtube.com/watch?v=rNu3Ij144lc> (min 22:00). Fecha de acceso: 04/03/2021., anticipar nuestras preferencias, retroalimentándose con información de entrada y salida muy variada. Recursivamente, el comportamiento de los agentes en YouTube estaría influenciado por la predicción del comportamiento de los agentes en YouTube. Aunque este ajuste es imperfecto porque el entorno es cambiante, produciéndose una suerte de efecto Don Quijote5El efecto Don Quijote refiere aquí, por analogía, a la histéresis en el sentido sociológico. Es decir, al desajuste entre condiciones pasadas y presentes, por ejemplo el conflicto entre un habitus y una situación para la que no está adaptado, concepto que Bourdieu expone en numerosas ocasiones a lo largo de su obra. Llevado al terreno que nos ocupa, se quiere expresar que el comportamiento predictivo de las redes neuronales es imperfecto debido a los cambios del entorno, produciéndose un retraso en las respuestas y comportamientos impredecibles o fuera de lugar. Se utiliza la metáfora de Don Quijote para referirse al conflicto entre el ideal esperado y la realidad. . Como señalaría Luhmann, la relación entre sistema y entorno sólo puede constituirse renunciando a la «sincronización total» (Luhmann 1998: 64Luhmann, Niklas. 1998. Sistemas sociales: Lineamientos para una teoría general. Barcelona: Anthropos. ). Durante mi experiencia etnográfica, por ejemplo, observé un comportamiento desconcertante del sistema de recomendación al inicio del confinamiento domiciliario, seguramente debido a los cambios en los hábitos de los usuarios y al periodo de reajuste de las predicciones del sistema.
Evitemos pensar, entonces, que el sistema de recomendación que utiliza YouTube es un reflejo pasivo del comportamiento y el interés de los usuarios, tal y como señalaba Lavado (2010: 89)Lavado, Antonio. 2010. «El consumo de YouTube en España».Global Media Journal 7(14): 76-92. México. antes de la implementación de estas redes, cuando afirmaba que «sus contenidos, de alguna manera, nos proporcionan una amplia radiografía sobre los gustos y tendencias de consumo de la red en general». También rechazamos la suposición de que es neutral (Van Dijck 2013Van Dijck, José. 2013.The Culture of Connectivity: A Critical History of Social Media. Nueva York: Oxford University Press.). Por el contrario, los algoritmos de IA están sesgados, y sus recomendaciones no son un resultado espontáneo de la interacción entre participantes al menos en dos sentidos. Por un lado, tienen objetivos programados relacionados con la rentabilidad, y por otro también sufren desajustes. Las decisiones de las redes neuronales ejercen una presión selectiva que aparecería reflejada en fenómenos observables, y la dificultad estaría en saber discriminarlos. Se trata entonces de no confundir las decisiones de usuarios y creadores de contenido con las decisiones de una máquina, lo que puede llevarnos a sacar conclusiones erróneas sobre la realidad de lo que ahí ocurre. En otras palabras, para hacer investigación social en YouTube hay que introducir a las redes neuronales artificiales como agentes participantes. Cualquier estudio sobre YouTube que no tenga esto en cuenta podría estar incorporando, sin saberlo, el sesgo introducido por las máquinas. De esta manera, la propuesta que se desarrolla en este texto, aunque tome un marco basado en los estudios clásicos de la antropología, puede interpretarse, si se quiere, desde la propuesta de la Actor-Network-Theory (Latour 2005Latour, Bruno. 2005.Reassembling the Social: An Introduction to Actor-Network-Theory. Oxford: Oxford University Press.), donde actantes humanos y no-humanos son considerados de forma simétrica.
SOBRE YOUTUBE: DOS FORMAS DE MIRAR
⌅La publicación de referencia sobre la plataforma quizás sea YouTube Online video and participatory culture (Burgess y Green 2018Burgess, Jean y Joshua Green. 2018. YouTube Online Video and Participatory Culture (2a ed.). Medford: Polity Press. ), y recientemente en el ámbito hispanohablante la compilación YouTube y la comunicación del siglo XXI (Torres-Toukoumidis y De Santis-Piras 2020Torres-Toukoumidis, Angel y Andrea de Santis-Piras (Coords.). 2020. YouTube y la comunicación del siglo XXI. Ecuador: Ciespal. Disponible en: <http://dspace.ups.edu.ec/handle/123456789/19292> acceso: 15 de febrero 2021.), pero en ambas publicaciones la cuestión de los sistemas de recomendación resulta prácticamente contextual e incluso ausente, y la intervención de la Inteligencia Artificial no se problematiza. Así, en el segundo documento se señala, por ejemplo, que «el contenido de YouTube no circula sin mediación: está direccionado por los motores de búsqueda que, como consecuencia, inciden en los “índices de popularidad”» (Colangelo Kraan y Soto Alemán 2020: 72Colangelo Kraan, Pedro y Leonel Soto Alemán. 2020. «Reflexión crítica sobre los vínculos existentes entre YouTube y la televisión», en Angel Torres-Toukoumidis y Andrea de Santis-Piras. (coords.), YouTube y la comunicación del siglo XXI. Ecuador: Ciespal.) pero en ningún momento se entra a analizar las extensas consecuencias que ello implica. La discusión académica se expande a otras áreas de problematización como la inversión en youtubers para influir en las decisiones de compra (Lopes et al. 2020Lopes, Isabel, Encarnación González Vázquez, Teresa Guarda y José Avelino Víctor. 2020. «The Influence of YouTubers in Consumer Behavior», en Álvaro Rocha, José Luis Reis, Mark K. Peter y Zorica Bogdanović (eds.) Marketing and Smart Technologies. Smart Innovation, Systems and Technologies 167. Singapur: Springer. doi: <https://doi.org/10.1007/978-981-15-1564-4_6>.) o cuestiones como «los nuevos códigos y lenguajes que se están reconfigurando en estos espacios» (Castillo y Garzón-Vera 2020: 33Castillo Astudillo, Luz Marina y Blas Garzón-Vera. 2020. «YouTube, ¿un camino hacia la interculturalidad participativa?», en Angel Torres-Toukoumidis y Andrea de Santis-Piras. (coords.), YouTube y la comunicación del siglo XXI. Ecuador: Ciespal.). Otros enfoques, por su parte, se centran en la imagen y la representación. Las tesis de Guy Debord (1967)Debord, Guy. 1967. La sociedad del espectáculo. Valencia: Pre-textos. se vienen a la mente cuando se navega en YouTube como afirmaciones proféticas. Por ello podemos encontrarlas en la discusión académica como análisis teóricos (Bañuelos 2009Bañuelos, Jacob. 2009. «YouTube como plataforma de la sociedad del espectáculo». Razón y palabra 66. Disponible en <http://www.razonypalabra.org.mx/N/n66/varia/jbanuelos.pdf> Fecha de acceso: 7 de enero de 2021.) o como referencias necesarias. Los trabajos de Henry Jenkins sobre la denominada cultura participativa también son especialmente influyentes en este campo (Jenkins 2006Jenkins, Henry. 2006. Fans, Bloggers, and Gamers. Exploring participatory culture. New York: New York University Press; Jenkins, Mizuko y boyd, 2016Jenkins, Henry, danah boyd y Mizuko Ito. 2016.Participatory Culture in a Networked Era: A Conversation on Youth, Learning, Commerce, and politics. Cambridge: Polity Press.). Se argumenta que los consumidores dejan de ser pasivos para convertirse en participantes o prosumidores mediáticos (Duncum 2011Duncum, Paul. 2011. «Youth on YouTube: Prosumers in a Peer-To-Peer Participatory Culture».The International Journal of Art Education 9(2): 24-39.; García Galera y Valdivia 2014García-Galera, María del Carmen y Angharad Valdivia. 2014. «Prosumidores mediáticos. Cultura participativa de las audiencias y responsabilidad de los medios». Comunicar: Revista Científica de Comunicación y Educación 22(43): 10-13. doi: <https://doi.org/10.3916/C43-2014-a2>.). A este respecto, considero que ambas ideas resultan teóricamente débiles y contribuyen a un discurso idealista sobre la democracia y la participación online que invisibiliza las dinámicas de poder que encierran estos espacios. La idea de prosumo, por ejemplo, resulta cuantitativamente más marginal de lo que se da a entender, como muestra un estudio sobre el prosumo de politainment en YouTube (Berrocal, Campos y Redondo 2014Berrocal, Salomé, Eva Campos y Marta Redondo. 2014. «Prosumidores mediáticos en la comunicación política: el “politainment” en YouTube». Comunicar 22(43): 65-72.). La forma de participación más relevante consistiría en realidad en aportar datos de navegación de forma pasiva, a la manera de clics, cookies o tiempo de reproducción.
En otra línea más preocupada por los efectos sociales de los sistemas tecnológicos encontramos observaciones diversas tanto en los medios de comunicación como en la producción académica. La radicalización y polarización política como resultado del efecto madriguera6Metáfora utilizada en el artículo que se cita a continuación, referida en inglés como rabbit hole e inspirada en Alicia en el País de las Maravillas. Refiere al proceso por el cual un usuario/a, a través de búsquedas sobre algún tema, es progresivamente llevado hacia otros contenidos que fomentan la radicalización política a través de las recomendaciones realizadas por los algoritmos de las plataformas de contenidos. De esta manera el sesgo del sistema de recomendación acaba por sesgar a la persona. atribuido a los sistemas de recomendación de la plataforma es una cuestión de la que se están haciendo eco los medios (Roose 2019Roose, Kevin. 2019. «The Making of a YouTube Radical». The New York Times, June 8. Disponible en: <https://www.nytimes.com/interactive/2019/06/08/technology/youtube-radical.html>. Fecha de acceso: 21 de octubre 2020.) y algunos investigadores7Algotransparency, grupo de investigadores que advierte de la no neutralidad de los algoritmos, señala en su web que en YouTube «la Inteligencia Artificial controla lo que el mundo está viendo. […] el verdadero objetivo del algoritmo es maximizar el tiempo de visualización. Esto favorece el contenido sensacionalista y el clickbait. A gran escala, el mundo ha visto cómo este sesgo algorítmico amplifica la desinformación, polariza el debate público y promueve contenidos dañinos» (Traducción propia). Extraído de <https://www.algotransparency.org/?date=16-06-2019&keyword>. Fecha de acceso: 05/03/2021. (Ribeiro et al. 2020Ribeiro Horta, Manoel, Virgílio A. F. Almeida, Wagner Meira, Raphael Ottoni y Robert West. 2020. «Auditing Radicalization Pathways on YouTube». Proceedings of the 2020 conference on fairness, accountability, and transparency: 131-141. doi: <https://doi.org/10.1145/3351095.3372879>.). El mayor número de comentarios generados por contenidos extremistas y/o sensacionalistas podría guardar relación con su propagación, al suponerse que el sistema de recomendación de la plataforma recompensa la interacción. No obstante, frente a la aceptación acrítica de esa hipótesis se sugiere que las causas pueden ser más complejas y requieren investigaciones más profundas sobre la demanda real de estos contenidos, pues el sistema de recomendación tendería, en realidad, hacia contenidos mainstream (Ledwich y Zaitsev 2020Ledwich, Mark y Anna Zaitsev. 2020. «Algorithmic Extremism: Examining YouTube’s Rabbit Hole of Radicalization». First Monday 25(3). doi: <10.5210/fm.v25i3.10419>.). Así, algunas evidencias apuntan a que los usuarios prestan menos atención a los contenidos que ofrecen puntos de vista neutrales o conciliadores (Garimella et al. 2018Garimella, Kiran, Gianmarco De Francisci Morales, Aristides Gionis y Michael Mathioudakis. 2018. «Political Discourse on Social Media. Echo Chambers, Gatekeepers, and the Price of Bipartisanship». Proceedings of the 2018 World Wide Web Conference: 913-922. doi: <https://doi.org/10.1145/3178876.3186139>. en Malinen y Koivula 2020Malinen, Sanna y Aki Koivula. 2020. «Influencers and Targets on Social Media. Investigating the Impact of Network Homogeneity and Group Identification on Online Influence». First Monday 25(4). doi: <https://doi.org/10.5210/fm.v25i4.10453>.), relativizando el papel de los sistemas de recomendación como responsables. Rebecca Lewis (2018Lewis, Rebecca. 2018. «Alternative Influence. Broadcasting the Reactionary Right on YouTube». Data & Society 18. Disponible en: <https://datasociety.net/library/alternative-influence/>. Fecha de acceso: 9 de enero 2021.; 2020Lewis, Rebecca. 2020. «“This is what the News Won’t Show you” YouTube Creators and the Reactionary Politics of Micro-Celebrity». Television & New Media 21(2): 201-217. doi: <https://doi.org/10.1177/1527476419879919>.), sin embargo, ha realizado extensos estudios acerca de cómo sectores de la alt-right recurren a técnicas relacionadas con los algoritmos para posicionarse y conquistar nichos mediante el posicionamiento estratégico de palabras clave para manipular los sistemas de recomendación. La influencia de los algoritmos sobre la visibilidad/invisibilidad de diferentes categorías de agentes sociales y colectivos también forma parte de las preguntas de investigación sobre la plataforma (Bliss 2020Bliss, Melissa. 2020. «Under the Radar. Older Women YouTubers and Algorithmic Influence». Feminist Media Studies 20(5): 745-747. doi: <https://doi.org/10.1080/14680777.2020.1783806>.).
En definitiva, distinguimos dos corrientes. La primera aborda YouTube bajo conceptos como prosumo o cultura participativa, que considero insuficientes. La segunda lo aborda atendiendo a la tecnología y la economía de los algoritmos, y tiene mayor alcance explicativo. Este texto se inserta definitivamente en esta segunda corriente decidida a explorar los efectos de los sistemas tecnológicos sobre el mundo social, especialmente en tanto los avances en Inteligencia Artificial suponen la delegación de decisiones en favor de esta.
LA PRODUCCIÓN DE GRANDES YOUTUBERS POR LAS REDES NEURONALES
⌅Se entiende por youtuber a cualquier individuo que sube vídeos a la plataforma regularmente, especialmente si ha alcanzado el punto a partir del cual se le permite monetizar8Los requisitos de monetización de un canal no son objeto de este texto, pero es información que el soporte de Google ofrece a través del siguiente enlace: <https://support.google.com/youtube/answer/72851?hl=es-419&ref_topic=9153642>.. Aquí lo definiremos como aquellos agentes que, si bien no han llegado a ese punto, actúan conforme a su logro. Es decir, definiremos al youtuber por su interés en participar y competir dentro del sistema/campo.
Estos trabajan bajo condiciones ya descritas por Pierre Bourdieu (1997: 15, 16)Bourdieu, Pierre. 1997. Sobre la televisión. Barcelona: Anagrama. en su exposición Sobre la televisión, donde señaló su propia aparición televisiva como «insólita» para el medio, pues disponía de libertad total para elegir el tema y su duración, «un dominio de los medios de producción que no es habitual». Esta aparenta ser una situación ideal y emancipadora. Sin embargo, la materialización de este dominio no parece haber hecho desaparecer la coacción, sino que simplemente la habría movido de lugar. El control final se distribuiría entre el medio de difusión, el mercado interno y los sistemas de recomendación, que pueden terminar por imponer sus lógicas al creador/a de contenidos si es que este aspira a entrar o a permanecer en el juego. Desde esta óptica, el youtuber está más cerca del individuo auto-explotado que describe Byung-Chul Han (2012)Han, Byung-Chul. 2012. La sociedad del cansancio. Madrid: Herder. en La sociedad del cansancio como sujeto de rendimiento atrapado por las estadísticas de su propio canal9Véase por ejemplo: Fons, Romuald [Romuald Fons] (22 de octubre de 2019). NO PERMITAS que los algoritmos TE MANIPULEN. [Archivo de vídeo] Recuperado de <https://www.youtube.com/watch?v=a0U-bTVghu4>. Fecha de acceso: 17/12/2020., que de la visión idealizada y «emprendedora» que se tiene desde fuera de esta actividad. Como señalan Márquez y Ardévol (2018: 47-48Márquez, Israel y Elisenda Ardévol. 2018. «Hegemonía y contrahegemonía en el fenómeno YouTuber». Desacatos 56: 34-49. , en Colangelo Kraan y Soto Alemán 2020Colangelo Kraan, Pedro y Leonel Soto Alemán. 2020. «Reflexión crítica sobre los vínculos existentes entre YouTube y la televisión», en Angel Torres-Toukoumidis y Andrea de Santis-Piras. (coords.), YouTube y la comunicación del siglo XXI. Ecuador: Ciespal.: 76)10En la referencia original citan a Hidalgo y Ardévol 2018, pero se trata de una errata. En el texto la he subsanado cambiándola por Márquez y Ardévol 2018., existe una «retórica optimista y democrática» relacionada con la posibilidad de profesionalizarse como youtuber. Es decir, son vistos como jóvenes que ganan mucho dinero haciendo lo que les gusta y que conquistan al público por tener una personalidad atractiva. Pero esta visión resulta muy parcial e invisibiliza los verdaderos mecanismos que controlan la escena. Así, hay una inclinación psicologista en tratar de comprender el éxito en YouTube mediante la categoría de influencer. Esto es, como «emprendedor talentoso» de la comunicación online que no depende más que de sí mismo, sus habilidades y su personalidad.
Aunque el concepto es considerado de actualidad, está teorizado desde 1955 con la publicación de Personal Influence (Katz y Lazarsfeld 1955Katz, Elihu y Paul F. Lazarsfeld. 1955. Personal Influence, The Part Played by People in the Flow of Mass Communications. Glencoe, IL.: Free Press.), donde se analizó el papel de los líderes de opinión como intermediarios de los procesos comunicativos. Sin embargo, para entender los fenómenos de influencia actuales parece necesario incluir la presión algorítmica como parte de las reglas del juego. Ver a los youtubers como emprendedores tomando la concepción liberal del término descuida la injerencia de los sistemas de recomendación. Un divulgador científico, por ejemplo, explica cómo duplicó su audiencia tras ser mencionado por otro creador de contenido mucho más exitoso. A partir de entonces YouTube comenzó a recomendar más sus vídeos, permitiéndole así dejar su otro trabajo para dedicarse de pleno a su actividad en YouTube11Muller, Derek [Veritasium] (28 de agosto de 2020) Is Success Luck or Hard Work? [Archivo de vídeo] Recuperado de <https://www.youtube.com/watch?v=3LopI4YeC4I>. Fecha de acceso: 20/10/2020.. Ello invita a pensar que para abordar el concepto de emprendedor de manera más «abstracta» sería necesaria una perspectiva global del ecosistema de la plataforma, abandonando la noción «mainstream economicista» de emprendedor (Pfeilstetter 2011Pfeilstetter, Richard. 2011. «The entrepreneur. A critical reflection on the current uses and meanings of a concept». Gazeta de Antropología 27(1): 1-11: doi: <10.30827/Digibug.15684>.: 8). Sólo una perspectiva sistémica que tiene en cuenta el entorno permite romper el sesgo ideológico del emprendedor talentoso, que conduce a pensar en YouTube como plataforma para dar voz a figuras que ya estaban ahí esperando a tener un medio de difusión adecuado. Por el contrario, los influencers contemporáneos de la red - excluyendo de este análisis a otras plataformas - son más bien un producto de las políticas de YouTube y sus algoritmos, y destacan en la medida en que pueden contribuir al ecosistema económico de la plataforma. No llegarían a grandes youtubers los más aptos o talentosos, sino los que la economía del algoritmo privilegia por diferentes motivos. Esto permite explicar algunos fenómenos observados. Por ejemplo, canales populares pierden visibilidad sin razón aparente, y esto es atribuido por los afectados a un cambio en el comportamiento de las redes neuronales, llegando al caso de abandonar la plataforma12Este youtuber manifiesta los efectos psicológicos que le produce enfrentarse al sistema de recomendación, lo que le condujo a dejar temporalmente la plataforma. Montferrer, Martí [C de Ciencia] (14 de enero de 2021). Me voy. [Archivo de vídeo] Recuperado de <https://www.youtube.com/watch?v=DSvgheZzAhU>. Fecha de Acceso: 14/01/2021.. En situaciones como esta, los youtubers comparten información entre sí para verificar si otros han notado algún cambio en el comportamiento del sistema de recomendación. Ciertamente, las redes que controlan el sistema entronan y destronan a los creadores/as mientras el balance total sea positivo para la plataforma. Dicho de otro modo, estas redes contribuyen a producir grandes youtubers rentables. Solo los modelos rentables seleccionados por el sistema de recomendación podrían prosperar a largo plazo en este medio, lo que no casa con la noción democrática que se tiene de la plataforma. Sin embargo, como los grandes hombres melanesios, los grandes youtubers, en tanto referentes culturales y por las rivalidades de estatus, parecen intensificar la producción de contenido, estimulando la entrada de aspirantes que quieren ser como ellos y contribuyendo a esta visión personalista de que cualquiera puede ser un youtuber de éxito. Fomentan el interés, la illusio por la participación, pero bajo unos arquetipos concretos y life styles producto del efecto selectivo de estas redes13Para entender mejor esto, podemos poner de ejemplo cómo los ingresos que proporciona un canal varían en función del perfil (país, edad, intereses) de los espectadores. Es fundamental tener en cuenta que algunas audiencias son más rentables que otras.. Propongo entonces que la presión ejercida por los sistemas de recomendación moldea y direcciona los fenómenos de influencia, y que el éxito de los youtubers depende más de su capacidad para adaptarse a la lógica de la plataforma que de sus personalidades o talentos. Esto no significa que el talento, una buena conexión con sus audiencias, o la calidad del contenido, no sean factores importantes, sino que en última instancia se ven empujados a poner estas habilidades al servicio del comportamiento esperado del sistema de recomendación. Es más, esto puede ir contra sus talentos, y por ello vemos como creadores/as del ámbito científico terminan produciendo vídeos del género confesional para competir con creadores de otros ámbitos y hacerse ver en el sistema de recomendaciones. En pocas palabras, YouTube hace al youtuber.
Por todo esto, predecir el comportamiento de las redes neuronales, adaptarse a este y poder dominarlo se convierte en un intento de tener cierto control sobre el propio destino profesional en un ambiente de alta incertidumbre, en el que «no sabes cuánto vas a durar»14Comunicación personal.. Dominar la lógica de YouTube sería, en el fondo, estar dominado por ella. Pero esta lucha contra el sistema de recomendación puede resultar devastadora. En palabras de un youtuber de éxito refiriéndose a la presión de los algoritmos, «es irónico porque somos conscientes de que estamos en una situación privilegiada pero aun así no podemos escapar de esta tortura psicológica. Es como una montaña rusa en cuanto a estabilidad emocional»15Comunicación personal..
Así, la apología de la figura del emprendedor «hecho a sí mismo» resulta una coartada ideológica que impide percibir la dependencia de los sistemas de recomendación en el fenómeno youtuber. Los intereses comerciales y los sistemas de Inteligencia Artificial de la plataforma moldearían referentes culturales rentables, puesto que no se trata solo de que el público vea sus vídeos, sino de que las redes neuronales decidan mostrarlo. Contra la idea de cultura participativa, YouTube se construye de arriba hacia abajo. Se trataría de encajar en el molde16Santaolalla Camino, Javier [Date un Vlog] (10 de marzo de 2021) ¿Qué está pasando con YouTube?. [Archivo de vídeo] Recuperado de <https://www.youtube.com/watch?v=TOYt2-dxWGo>. Fecha de acceso: 12/03/2021., «pasar por el aro», y por ello se ven empujados a negociar con el sistema de recomendación y condicionados por este para no desaparecer.
REDES NEURONALES Y RECIPROCIDAD ENTRE YOUTUBERS
⌅A continuación, vamos a profundizar en algunas dinámicas sociales derivadas de los sistemas de recomendación. Los youtubers tienden a gestionar sus relaciones entre sí dentro de la plataforma teniendo presente el funcionamiento de estos sistemas. La cuestión fundamental, en la terminología que utilizan los youtubers, es «crecer». Crecer genera en el agente una suerte de adicción, una euforia al ver subir la pendiente de las gráficas de YouTube Analytics, la herramienta que ofrece todos los datos necesarios para evaluar el rendimiento del canal. Pero no crecer es sinónimo de caer17En este sentido, «caer» refiere a bajar el número de reproducciones respecto a otros momentos históricos del canal. Es decir, tener menos visitas que en un periodo anterior. Comunicación personal., y la sensación que invade al youtuber llega a ser de enorme frustración e incertidumbre. Esto, como venimos señalando, puede funcionar como desencadenante de la preocupación por las redes neuronales y las formas de negociar con estas.
Podemos examinar la cooperación entre youtubers teniendo como referente las colaboraciones que realizan entre sí desde las tesis sobre la reciprocidad de Marcel Mauss (2009 [1925])Mauss, Marcel. 2009 [1925]. Ensayo sobre el don: forma y función del intercambio en las sociedades arcaicas. Buenos Aires: Katz.. A mi juicio, el efecto de solidaridad y cohesión que se construye por el intercambio de dones y la obligación de dar y devolver puede ser muy frágil entre ellos/as, lo que me acerca a una posición bourdiana en la que el interés se muestra bajo la apariencia de lo desinteresado18Dos youtubers tienen una buena relación personal y colaboran. A lo largo del tiempo, uno de ellos obtiene una diferencia de audiencia muy amplia respecto del otro, y la relación se extingue. Comunicación personal.. Varias lógicas de intercambio y reciprocidad en la plataforma deben entenderse bajo la premisa de que los dones intercambiados son las audiencias, que pasan a ser mercancías, y que el agente redistribuidor no es el anfitrión, sino una entidad que los intercambiantes invocan: las redes neuronales. El youtuber, por lo general, valora el beneficio neto de la colaboración realizada y lo confronta con el obtenido por la contraparte. A la hora de colaborar, suelen calcular los costes/beneficios. Por su parte, los aspirantes a youtubers o los pequeños youtubers escriben emails pidiendo colaboraciones a los bien posicionados a sabiendas de que ello puede contribuir a lanzar sus canales, aunque por lo general no reciben respuesta alguna. Sin embargo, no hay que entender la negativa a estas propuestas únicamente como una forma de evitar beneficiar a otro sin obtener nada a cambio. En gran parte hay que considerar la cantidad de trabajo adicional que supondría para el solicitado, que necesariamente tiene que discriminar19Comunicación personal..
La colaboración es sometida a un cálculo concienzudo (Lange 2019Lange, Patricia G. 2019. Thanks for Watching. An Anthropological Study of Video Sharing on YouTube. Louisville: University Press of Colorado. doi: <https://doi.org/10.5876/9781607329558>.: 122) en el que incluso se pacta la hora de subida de los vídeos. El youtuber que invita a otro a su canal le agradece la colaboración, recomendando sus redes sociales y dejando links a estas en la descripción de sus vídeos, y se espera del invitado que haga lo mismo. Por su parte, el invitado/a deberá invertir el sentido de este intercambio reproduciendo esta colaboración en su propio canal. El propósito implícito es una ganancia de visibilidad a través de la circulación de espectadores, esperándose que las redes neuronales recompensen la acción al mantenerlos durante más tiempo en la plataforma saltando de un vídeo al otro. Se espera también que las redes neuronales favorezcan la aparición en los vídeos relacionados. Si el resultado es contraproducente o peor de lo esperado para alguna de las partes la colaboración se considera un fracaso y es probable que no consideren repetirla.
Otras formas de reciprocidad pueden llegar a estar mal vistas cuando se presentan de determinadas maneras. Así, como observa Patricia G. Lange, el «like por like» y el «sub por sub» se consideran prácticas sospechosas (Lange 2019: 127Lange, Patricia G. 2019. Thanks for Watching. An Anthropological Study of Video Sharing on YouTube. Louisville: University Press of Colorado. doi: <https://doi.org/10.5876/9781607329558>.). Este tipo de prácticas, recurrentes entre cuentas pequeñas, nacen precisamente de las creencias sobre la interacción con las redes neuronales en la promoción de contenidos, e ilustran como el ambiente de competitividad mediado por algoritmos de IA genera códigos de conducta sujetos a valoración social unas veces positiva, como la colaboración, y otras negativa, como el «autobombo», el spam o las formas de reciprocidad vacía que buscan manipular de forma no orgánica los sistemas de recomendación.
EL YOUTUBER ANTE LAS REDES NEURONALES Y SUS RITOS DE FORTUNA
⌅Llegados a este punto hemos visto que las redes neuronales que deciden el destino de las producciones son importantes para entender las prácticas de muchos creadores/as. Los youtubers tienen que negociar su actividad en la plataforma con sistemas opacos (Wu, Pedersen y Salehi 2019Wu, Eva Yiwei, Emily Pedersen y Niloufar Salehi. 2019. «Agent, Gatekeeper, Drug Dealer: How Content Creators Craft Algorithmic Personas». Proceedings of the ACM on Human-Computer Interaction 3(CSCW): 1-27. doi: <https://doi.org/10.1145/3359321>.), y estos se esfuerzan en conocer cómo se comportan. Estas redes neuronales no son realmente predecibles, y esa impredecibilidad es la base de todo lo que acontece al tema que nos ocupa. Es en este resquicio de incertidumbre frente a una máquina «caprichosa» que los/las youtubers ponen en marcha una serie de prácticas análogas a los ritos de fortuna individualistas, las cuales tienen por finalidad poner a los algoritmos de tu parte20Pese a que se trata de redes neuronales artificiales, todavía es común hablar de «los algoritmos» para referirse a ellas.. Son lo que se conoce como SEO en YouTube (Search Engine Optimization), y comprenden tanto aspectos técnicos como ideas sobre la psicología del espectador u otros conocimientos del ámbito del marketing.
Durante la grabación y edición de un vídeo, el creador/a tratará de lograr un ritmo que retenga a su audiencia para ofrecer algo que se considera satisfactorio para las redes neuronales, con cambios de plano, sonidos y otros recursos que ayuden a capturar la atención para incrementar el tiempo de visualización. También se valdrán de lo que se conoce como CTA (Call To Action), estímulos que buscan una reacción por parte de quien está al otro lado para que realicen alguna acción que dé a entender a las redes neuronales que sus creaciones generan interacción, como comentar, compartir, ver otro vídeo o dejar un like, pues se consideran señales positivas que serán recompensadas por estas. Saben que si dicen las palabras mágicas «dale a like y suscríbete» lograrán mayor cantidad de likes y suscripciones que si no lo hacen, y esperan que la máquina les recompense por ello recomendando su vídeo a más personas. La hora de publicación del vídeo también es tenida en cuenta, y tratan de descubrir con qué frecuencia deben publicar y en qué horarios serán mejor recompensados. El clickbait es otro recurso. Consiste en un mensaje (imagen, texto) pensado con la finalidad de llamar la atención del usuario para que haga «clic» sobre un contenido, lo que en ocasiones genera una expectativa errónea. Algunas técnicas de clickbait consisten en utilizar títulos sensacionalistas o intrigantes, llamativos marcos para los thumbnails que rompan el patrón visual para destacar, rostros humanos con expresiones exageradas, imágenes sexualizadas, o elementos visuales que parecen demostrar cierta eficacia como, por ejemplo, una flecha roja21El youtuber Alva Majo muestra cómo cambia la curva de visitas de uno de sus vídeos añadiendo una flecha roja a la miniatura, lamentando de que la suerte de su creación pueda depender de algo así. Este vídeo podría catalogarse como parte del género confesional, y es especialmente ilustrativo de la negociación que realizan los youtubers con la plataforma. [Alva Majo] (2 de noviembre de 2020) ¿Puede una flecha roja salvar mi video? [Archivo de vídeo] <https://www.youtube.com/watch?v=DKmfQemgazI>. Fecha de acceso: 10/12/2020.. En el lado más técnico, se tienen en cuenta los metadatos que pueden ayudar a las redes neuronales a encontrar al público adecuado. A veces se intenta engañarlas, por ejemplo, utilizando tags que tengan mucha demanda, plagiando los de un competidor o declarando el vídeo bajo una categoría falsa22Observaciones realizadas con la herramienta VidIQ, que permite acceder a los metadatos.. Pero al mismo tiempo estas prácticas pueden ser penalizadas. Se dice que si intentas engañar a las redes neuronales y estas «se dan cuenta» del engaño, podrían echar el trabajo a perder y volverse en contra.
He podido comprobar que muchas de estas técnicas parecen surtir efecto, pero los resultados no son nunca concluyentes, y en ocasiones incluso contradictorios. Unas veces aparecen patrones de causa y efecto, como si se hubiesen logrado aislar las variables del éxito. Pero otras muchas veces la ilusión de causalidad se hace añicos. A mi juicio esto es porque no se trabaja en un ambiente mecánico, sino sistémico, donde las acciones individuales pasan a un complejo entorno de interacciones donde la última palabra la tienen las redes neuronales, cuyo trabajo se orienta al beneficio de la plataforma en su conjunto. De este modo, las prácticas SEO están más cerca del comportamiento mágico que del científico, y producen más la ilusión de control que un control real. Curiosamente, en el mundo del SEO se diferencia entre técnicas white hat y black hat, esto es, entre prácticas éticas y prácticas de engaño. Un uso del lenguaje que evoca la distinción entre magia blanca y magia negra. Por supuesto no quiere decirse que el SEO sea una literalmente como magia, sino que cumple para los participantes similares funciones sociales y psicológicas frente al entorno.
Por ejemplo, la distinción de Frazer (1944 [1890])Frazer, James George. 1944 [1890].La rama dorada. Magia y religión,México: FCE. respecto de las que llamó «ley de similitud» y «ley de contagio» en las prácticas mágicas se presentan en la práctica del SEO en YouTube bajo la suposición de que si el vídeo de «B» es muy recomendado por la plataforma, «A» deberá introducir en su vídeo algún elemento común con el vídeo de «B» (por ejemplo, etiquetas y metadatos) para que las fuerzas algorítmicas produzcan el mismo efecto sobre su propio vídeo. De igual manera, las colaboraciones y citaciones cruzadas esperan provocar el efecto de que el contacto entre «A» y «B» resulte en una relación duradera que quede grabada en el sistema de recomendación. La propia plataforma notifica a la audiencia en ocasiones mensajes del tipo «quienes ven el canal de A también suelen ver el canal B». Un análisis más profundo podría incluso identificar patrones directos e indirectos, positivos y negativos, además de los simpáticos y de contagio mencionados, siguiendo el esquema analítico de Arnold van Gennep (2008 [1909]: 29)Van Gennep, Arnold. 2008 [1909]. Los ritos de paso. Madrid: Alianza Editorial.. Así, las prácticas SEO van conformando un sistema de prescripciones y de restricciones, de lo que se debe hacer y lo que no, y la red neuronal aparece como un agente que establece recompensas o penalizaciones en función de cómo se la alimente y del cumplimiento de la técnica.
Cabe destacar que algunas personas instruyen en estas técnicas para controlar las redes neuronales y garantizar el éxito. Los consultores que dicen saber los trucos para «manipular» las redes neuronales se conocen como «gurús» del SEO en YouTube. Muchas veces son criticados como «vendedores de humo»23Experto en SEO señala que los que dicen conocer estos trucos mienten. Ver Carrillo de Albornoz Torres, Jordi [The Wild Project] (3 de junio de 2020). Experto en SEO explica cómo funciona realmente YOUTUBE (y NO es con algoritmos) | The Wild Project [Archivo de vídeo] Recuperado de <https://www.youtube.com/watch?v=97SkTeoqt5s> (Min 9:20). Fecha de acceso: 21/10/2020., pero otras gozan de credibilidad y venden su trabajo. Observando a quienes comentan en sus vídeos, encontramos canales de poco impacto que aspiran a convertirse en youtubers profesionales, dispuestos a pagar por conocer estos secretos. En cierto sentido, aparecen como intermediarios entre humanos y máquinas, expertos en la negociación que prometen hacer que los algoritmos trabajen para ti o se pongan de tu parte24P.e. Flores, Paulo [Paulo Flores] (1 de abril de 2020) Cómo Funciona EL ALGORITMO de YouTube en 2020 - (crecer en Youtube) #PARTE 1 [Archivo de vídeo] Recuperado de <https://www.youtube.com/watch?v=0IqBtNIgi98> (Min 0:40). Fecha de acceso: 21/10/2020.. Incluso esto se refleja en el lenguaje del demandante, como «encuentra el truco» o «haz la magia».
En esta negociación se aprecia como los youtubers y aspirantes a youtubers significan las redes neuronales como fuerzas que aspiran a controlar, y a las que atribuyen características, comportamientos y rasgos antropomórficos. He podido comprobar durante la revisión bibliográfica que ya se han realizado observaciones en este sentido recientemente. Eva Yiwei Wu, Emily Pedersen y Niloufar Salehi (2019: 1)Wu, Eva Yiwei, Emily Pedersen y Niloufar Salehi. 2019. «Agent, Gatekeeper, Drug Dealer: How Content Creators Craft Algorithmic Personas». Proceedings of the ACM on Human-Computer Interaction 3(CSCW): 1-27. doi: <https://doi.org/10.1145/3359321>. están trabajando esta cuestión dentro del marco de investigaciones sobre las relaciones entre humanos y lo que denominan «personas algorítmicas». Se enfocan, como estamos haciendo, en conocer cómo los youtubers dan sentido a los sistemas tecnológicos con los que negocian. Descubrieron que «los youtubers dan sentido al algoritmo asignándole características y objetivos humanos para explicar su comportamiento» (traducción propia). Identifican además tres roles genéricos que han clasificado como el agente, que promueve la participación mostrando el vídeo al público ideal, el guardian, que se pone entre el youtuber y el público decidiendo qué debe ser visto, y por último el drug dealer (narcotraficante) cuya misión es mantener al público enganchado a la plataforma.
Mi análisis, por su parte, no condujo a la idea de «personas algorítmicas», sino más bien de entes que desempeñan para los jugadores dos papeles principales: aliados o adversarios. Y se comportarán de una forma u otra en base a una serie de prácticas que siguen un modus operandi característico. Podemos pensar en el concepto antropológico de manipulación al asegurar que los youtubers construyen su relación con las redes neuronales del sistema de recomendación del modo en que algunas prácticas mágicas se sostienen sobre la idea de que la suerte puede ser manipulada con el favor de espíritus auxiliares.
El carácter ambiguo que se le atribuye al «algoritmo» como traicionero unas veces y colaborador en otras me conduce a compararlo con la misteriosa figura mitológica escandinava de Loki. La antropología conoce las ambigüedades de algunos espíritus y seres mágicos. Así, el famoso escrito de Lévi-Strauss (1970 [1958]: 169, 171)Lévi-Strauss, Claude. 1970 [1958]. «La eficacia simbólica». Antropología estructural: 168-185. Buenos Aires: Eudeba. sobre La eficacia simbólica señala como «el nele puede movilizar a estos malos espíritus y hacerlos sus protectores o sus asistentes» y advierte que Muu «no es entonces una fuerza fundamentalmente mala, sino una fuerza descarriada». En este sentido, podemos establecer una analogía entre la Inteligencia Artificial y los seres espirituales de tipo animista, ya que la incertidumbre que mueve a los youtubers a considerar el funcionamiento de las redes conduce a circunscribir el fenómeno observado atendiendo a su función. Quien se relaciona con estas entidades bien empieza a considerar los tributos con los que las debe alimentar para conseguir algo de ellas, bien trata de engañarlas para que no le perjudiquen, o bien recurre a especialistas. Todo conduce a la idea de control, de reducir la incertidumbre, que considero la base de todos los fenómenos aquí reseñados. Un control arrebatado por los nuevos sistemas tecnológicos que anticipa una nueva era de incertidumbres y de mecanismos para afrontarla.
Importante advertir, dado que la antropología nunca ha llegado a un verdadero consenso sobre la distinción entre magia y religión (Cantón 2001: 50Cantón, Manuela. 2001. La razón hechizada. Teorías antropológicas de la religión. Barcelona: Ariel. ) que tomo prestada a efectos teóricos una lectura no religiosa y plenamente funcional-sistémica sobre la idea de magia al comparar las prácticas mágicas y las prácticas SEO. Por un lado, refiriéndome al carácter individualista de muchas de estas prácticas. Así, como los consultores SEO, «el mago tiene una clientela, no una Iglesia» (Durkheim 1968 [1912]: 47Durkheim, Émile. 1968 [1912]. Las formas elementales de la vida religiosa. Buenos Aires: Schapire.). Por otro, tomando de Malinowski (1994 [1925])Malinowski, Bronislaw. 1994 [1925]. Magia, ciencia y religión. Barcelona: Ariel. la idea de magia como medio para un fin. Especialmente, en cuanto esta finalidad se orienta hacia el control y predicción frente al entorno (Aberle 1966Aberle, David. F. 1966. «Religio-Magical Phenomena and Power, Prediction, snd Control». Southwestern journal of Anthropology 22(3): 221-230.), o en nuestro caso, sobre el sistema de YouTube como medio que se intenta someter. Las prácticas SEO cumplirían así tanto funciones sociales y psicológicas como obedecerían a moldear y repetir un patrón de conducta. Es decir, cuando un youtuber trata de manipular las redes, paralelamente se manipula a sí mismo. Se amolda a un estereotipo. Aparecen como un mecanismo regulador del ecosistema de la plataforma.
LÍMITES Y ACLARACIONES SOBRE EL PAPEL DE LA INTELIGENCIA ARTIFICIAL
⌅Por supuesto mi exposición no describe ni agota todo lo que ocurre entre youtubers, y por ello es de justicia advertir que no todos los comportamientos se amoldan a lo descrito. Youtubers desiguales pueden colaborar por la amistad que les une más allá de la plataforma. Canales grandes pueden favorecer a canales pequeños simplemente porque los creadores/as tienen interés en el trabajo de otros. Muchas otras veces, aun conociéndose el papel del sistema de recomendación, los creadores/as prefieren ignorarlos y hacer las cosas a su manera. No todo se orienta a satisfacer a las redes neuronales, tan solo se apunta a una inclinación, la más voraz, subrayando el efecto selectivo que ello produce sobre el medio.
Tampoco estas redes tienen todo el control. YouTube y sus políticas son otra injerencia25Vidal, Rocío [La gata de Schrödinger] (3 de marzo de 2020). No puedo más, YouTube | EL FUTURO DEL CANAL [Archivo de vídeo] Recuperado de <https://www.youtube.com/watch?v=WWQkyytMbxk>. Fecha de acceso: 06/03/2021. Las tendencias que se incorporan desde el entorno también explican fenómenos de los que no se puede responsabilizar a los sistemas de recomendación. No todos los youtubers significan las redes neuronales de esta forma, ni las acusan cuando las cosas no les van bien. Para algunos son las personas de carne y hueso detrás de la empresa las que les ayudan o perjudican. Para otros son las preferencias del público. Además de no recomendar los vídeos, también puede ejercerse control mediante la desmonetización del contenido o del canal, desincentivando la participación. Aunque pueden buscar vías alternativas de financiación para sobreponerse a la penalización. Como venimos señalando, por encima de todo la última palabra la tendría el control publicitario. Pese a que los pormenores del sistema de recomendación son un secreto de la plataforma, sostengo que en términos globales se promociona lo que más retorno económico produce. Pero aun así encontramos una contradicción, una clase de doble constreñimiento (haz «A», no hagas «A»), ya que las creencias sobre lo que las redes neuronales favorecen pueden ser muchas veces contrarias al interés de los anunciantes. Así, podemos pensar en el «adpocalypse», nombre por el que se conoce a las fugas de anunciantes relacionadas con las sucesivas controversias en cuanto a los contenidos de YouTube (van Natta 2020Van Natta, Jared. 2020. Ragnarok: An Ethnographic Investigation of the Adpocalypse and the Political Economy of YouTube. Tesis doctoral. New Mexico State University. ). Algunos consideran que la presión de las políticas de la plataforma y de los anunciantes les fuerza a la autocensura y merman su libertad de expresión mediante la desmonetización o mostrando menos sus vídeos. Si bien estas medidas buscan atajar el problema de los discursos de odio en la plataforma, los creadores afectados protestan por los «falsos positivos»26Carrillo de Albornoz Torres, Jordi [The Wild Project] (9 de octubre de 2020). Experto en Redes Neuronales explica porque el algoritmo de Youtube falla tanto | The Wild Project [Archivo de vídeo] recuperado de <https://www.youtube.com/watch?v=2A_C4v9X_D0>. Fecha de acceso: 21/10/20., así como critican dobles raseros que permiten a artistas respaldados por grandes discográficas mostrar contenidos sexistas mientras se ponen strikes a creadores independientes por mostrar un simple beso27Comunicación personal.. Los creadores/as se sienten, por un lado, presionados a aumentar la carga polémica o sensacionalista para retener a la audiencia y generar interacción para que recomienden más sus vídeos, y por otro son empujados a realizar contenido aséptico que no pueda disgustar a los anunciantes. No hay una manera óptima de resolver estos problemas que contente a todos. Es decir, no hay almuerzo gratis: las mejoras en un lado se hacen a expensas de errores en el otro28Por ejemplo, impedir que proliferen contenidos pornográficos en la plataforma se paga con falsos positivos en contenidos informativos de educación sexual. Tampoco es fácil discernir entre un contenido que promueve los discursos de odio de otro contenido contra los discursos de odio.. La propia plataforma tiene que lidiar con esta contradicción, ya que el tiempo de visualización (y por tanto el consumo de publicidad) parece aumentar recomendando contenidos que satisfacen el sesgo de confirmación del espectador, muchas veces desinformativos, al tiempo que necesita atraer anunciantes priorizando las fuentes autorizadas para evitar un nuevo «adpocalypse» (Masadeh y Hamilton 2020Masadeh, Saleem y Bill Hamilton. 2020. «The Aftermath Of The Adpocalypse: Systemic Bias on YouTube». Proceedings of the CHI 2020 Workshop on Detection and Design for Cognitive Biases in People and Computing Systems.). Dicho esto, el youtuber perfecto sería aquel que luce como un escaparate donde las empresas pudieran anunciarse sin temor a la polémica y que aun así sea capaz de lograr llegar a una amplia audiencia de consumidores. Al menos, esto es lo he podido ver que exigen los anunciantes que les escriben para patrocinios. Pero no todos los youtubers están dispuestos a ajustarse al molde, y en estos casos las prácticas SEO no aparecen como contribuciones al modelo de negocio de la plataforma, sino como una forma de resistencia.
LA ANTROPOLOGÍA ANTE LA INTELIGENCIA ARTIFICIAL
⌅En la nota a la edición en castellano de Sistemas sociales: lineamientos para una teoría general, Torres Nafarrate (1998)Torres Nafarrate, Javier. 1998. «Nota a la versión en lengua castellana», en Luhmann, Niklas, Sistemas sociales: lineamientos para una teoría general: 17-25. Barcelona: Anthropos. recalca palabras de Luhmann que señalan al prejuicio humanista como parte de los obstáculos epistemológicos para una comprensión compleja de la sociedad. Esta ruptura es la que me permite introducir las redes neuronales como agentes participantes, tanto de forma emic, por las significaciones que le dan los youtubers, como de forma etic, al introducirlas como un agente más en la interacción. Sin embargo, estas no operan mediante sentido y por tanto quedarían en el entorno de los sistemas sociales. Pero cabe señalar que sus operaciones repercuten sobre lo social en la medida en que tienen por función coaccionar y seleccionar entre múltiples alternativas. Hacen una preselección que antes correspondía a otras estructuras sociales.
Tener presentes los efectos de estas máquinas se está convirtiendo en un requisito para numerosos ámbitos de investigación social. La antropología tiene un papel en el estudio sobre las implementaciones de la Inteligencia Artificial, y también ha tenido un rol importante en su teorización y desarrollo (Álvarez Munárriz 2001Álvarez Munárriz, Luis. 2001. «Antropología social e inteligencia artificial». Anales de la Fundación Joaquín Costa18: 95-110.). No solo se trata de investigar la Inteligencia Artificial desde la antropología, sino de investigar en antropología haciendo uso de la Inteligencia Artificial (Véase, p.e. Castelfranchi 1998Castelfranchi, Cristiano. 1998. «Modelling Social Action for AI Agents».Artificial Intelligence 103(1-2): 157-182. doi: <https://doi.org/10.1016/S0004-3702(98)00056-3>.). Los equipos multidisciplinares son esenciales para abordar realidades complejas de este tipo. Pero la procedencia de la financiación es también importante. Poco se puede hacer si las conclusiones de los investigadores e investigadoras friccionan con los intereses de la compañía para la que trabajan29Investigadora en ética Inteligencia Artificial despedida por Google presuntamente por señalar sesgos reproducidos por la IA. Delgado, Manuel. 2018. «Sacudidas teatrales en la ciudad. El actor como activista, la obra como sobresalto». El País 5 mar. Disponible en: <https://elpais.com/elpais/2018/03/02/seres_urbanos/1519981122_623530.html>. Fecha de acceso: 12 mar. 2018..
Estamos dejando en manos de estos sistemas la toma de decisiones, y preocupa la falta de neutralidad y la aparición de sesgos que ya se están manifestando. Por ello las Ciencias Sociales afrontan nuevos escenarios donde se demanda su participación. Por ejemplo, el Instituto de Evaluación de Tecnología y Análisis de Sistemas (ITAS, Alemania) estudia el impacto sistémico y las consecuencias no intencionales de las implementaciones de sistemas tecnológicos de estas características30<https://www.itas.kit.edu/english/>, como la discriminación por algoritmos, así como promueve su gobernanza pública. También en España la Estrategia Nacional de Inteligencia Artificial (ENIA)31<https://www.lamoncloa.gob.es/presidente/actividades/Documents/2020/ENIAResumen2B.pdf>. promete tener en cuenta la investigación social en este ámbito, con una inversión pública de 600 millones de euros entre 2021 y 2023. No obstante está por ver cómo se distribuirán las inversiones, y la antropología debe defender su incorporación al debate.
Aquí espero haber mostrado las implicaciones más ocultas de la IA, al menos en un ámbito particular. Quizás haya quedado una lectura sombría sobre YouTube que no hace justicia a otros usos que se hacen. Además, gran parte del contenido que podemos encontrar en la plataforma no tiene que ver con youtubers o aspirantes a serlo, y quedan fuera de los fenómenos reseñados. Muchas cuestiones han quedado en el tintero y seguramente necesiten matizarse. Con todo, la finalidad de este texto se orienta principalmente a señalar algunos aspectos sobre la interacción entre humanos e inteligencias artificiales que pueden ser pasados por alto. Especialmente en tanto plantean algunos debates éticos sobre los caminos que pueden tomar las aplicaciones basadas en IA.
A MODO DE CONCLUSIÓN
⌅Como hemos visto, el feedback que reciben los youtubers a través de la herramienta YouTube Analytics pueden afectar a sus decisiones de continuar o abandonar, subir un contenido u otro, modificar o no la presentación, subir más o menos cantidad, a una u otra hora del día, etc. Se ven empujados a adaptarse a las demandas del sistema de recomendación de la plataforma para mantenerse dentro del juego. De algún modo esto les invita a significar los sistemas tecnológicos basados en Inteligencia Artificial que unas veces les ayudan y otras les perjudican, y estos tienden a atribuirles rasgos antropomórficos durante el proceso de negociación que realizan frente a estos, ya sea viéndolos como aliados o como adversarios. Unas redes neuronales que se manifiestan como entidades ambiguas que tratan de manipular mediante prácticas concretas, un modus operandi característico. En tanto práctica, mediante el SEO tratan de controlar el medio en el que «habitan». Como apunta Emily Pedersen (2019)Pedersen, Emily. 2019. “My Videos are at the mercy of the youtube algorithm”: how content creators craft algorithmic personas and perceive the algorithm that dictates their work. Tesis de Máster. Berkeley, CA.: University of California at Berkeley. Disponible en: <https://www2.eecs.berkeley.edu/Pubs/TechRpts/2019/EECS-2019-48.html>. Fecha de acceso: 07 ene. 2021., sus producciones están «a merced» de unos algoritmos que les generan incertidumbre, y sobre los que tratan de ejercer cierto control, anticipándose a sus preferencias.
Por el momento, sería interesante profundizar más en el lugar que ocupan estos «entes» que viven en YouTube. Cómo moldean y regulan lo que ocurre en este medio. No sólo por sus funciones prácticas para la empresa - producir youtubers rentables - sino a través de los comportamientos que ponen en marcha los agentes partícipes para «alimentarlos», esquivarlos, engañarlos, protegerse de ellos o, al menos, al considerarlos en sus decisiones. Cuestiones que, como he defendido, actúan como un mecanismo regulador que convierte sus producciones en ofrendas para las redes neuronales. Algo que recordaría al supuesto papel que jugaban los espíritus de los antepasados para los tsembaga maring (Rappaport 1987Rappaport, Roy. 1987. Cerdos para los antepasados. el ritual en la ecología de un pueblo en Nueva Guinea. Madrid: Siglo XXI.), salvando obviamente notables diferencias. Por si hay algún lector/a no formado en antropología, hablamos de un grupo de horticultores papúes que destinaba gran parte de sus recursos a la cría de cerdos, hasta punto de sacrificar por ellos su propio bienestar. Estos cerdos se consumían con ocasión del kaiko, un ritual quindenial para satisfacer a los antepasados ofrendándoles la carne espiritual de los animales. Durante los meses siguientes se iniciaban hostilidades entre grupos enemigos con resultado de varias muertes y la conquista del territorio por parte de los vencedores, volviéndose a iniciar el ciclo de cría de cerdos para preparar futuras vendettas. Los voraces espíritus de los antepasados que demandan ser alimentados con cerdos jugarían un papel fundamental en la regulación ecológica y demográfica de la región, ya que obligaban a los vivos a no vivir demasiado bien y terminar agotando los recursos forestales. Es pocas palabras, los espíritus asumían el control operativo del entorno, ya sea a costa de duros sacrificios para los vivos. De modo parecido, las creencias de los youtubers y aspirantes a youtubers sobre lo que quiere una voraz Inteligencia Artificial condiciona sus relaciones sociales y los contenidos que producen, trabajando para una máquina que los moldea y que les dicta lo que deben hacer en beneficio de la salud de la plataforma en su conjunto. Los primeros producían cerdos para los antepasados. Los segundos producen vídeos para las redes neuronales.
La interacción entre humanos e inteligencias artificiales podría ser entonces algo en lo que la antropología ya tiene cierta trayectoria, en tanto que ha lidiado ampliamente con la relación entre humanos y espíritus. Con todo espero desarrollar estas ideas, e invito a investigarlas colectivamente y realizar estudios amplios y bien definidos, no sea que en realidad se estén persiguiendo fantasmas. No obstante el debate está abierto. Por un lado, se concibe la Inteligencia Artificial como algo que debe estar a nuestro servicio. Por otro lado, si las cosas van por este camino, debemos tener cuidado de no acabar como los Tsembaga, que sacrificaban su propio bienestar para tener a los espíritus satisfechos.