Un importante trabajo para las Ciencias Sociales consiste en la identificación de fenómenos relacionados con las novedosas implementaciones de sistemas de Inteligencia Artificial (IA). Especialmente en cuanto a sus efectos sociales y psicológicos, que requieren de toda supervisión para llevar a buen destino la misión que la corriente más optimista de los discursos que la abordan le atribuye: superar nuestras propias capacidades y límites humanos a fin de mejorar nuestras vidas. Una observación y vigilancia necesaria pero comprometida por la velocidad a la que se desarrollan e incorporan, lo que dificulta ver sus riesgos potenciales. Aquí nos hacemos la siguiente pregunta ¿cómo estamos interactuando con la Inteligencia Artificial? Para responder a ello podemos valernos de la etnografía y la teoría antropológica, las cuales pueden resultar fructíferas en este campo, como pretendo hacer ver a continuación con un caso concreto: la negociación que se produce entre los youtubers y las redes neuronales artificiales que deciden el destino de sus producciones.

Hasta 2016 la plataforma YouTube basaba su funcionamiento en algoritmos que, en base a parámetros definidos, establecían la manera de recomendar contenidos. Descifrar mediante ingeniería inversa los criterios que seguía la plataforma se convirtió en el reto de muchos youtubers. Quien «destripara el algoritmo» tendría una ventaja competitiva sobre los demás creadores/as. Un youtuber de divulgación científica se refería a este conocimiento como el «Santo Grial» ¹ . Posteriormente, YouTube optó por implementar redes neuronales artificiales para resolver los problemas de optimización que requiere procesar y clasificar las más de quinientas horas de vídeos subidos cada minuto, generando un nuevo escenario de incertidumbres para los participantes.

Entre noviembre de 2019 y mayo de 2020 conviví y trabajé con un creador de contenidos profesional de la plataforma ² , lo que supuso una posición privilegiada para realizar las observaciones que aquí se comparten. Cabe destacar que uno de mis cometidos fue diseñar estrategias que le ayudasen a fortalecer su posición en YouTube, lo que inexorablemente condujo a analizar el comportamiento de estas redes y, paralelamente, a profundizar en la relación que construyen los youtubers con estas, cómo las significan y cómo les afectan cotidianamente. Así, mediante esta aproximación, es mi intención proporcionar una serie de reflexiones teóricas y observaciones destinadas a orientar a otros investigadores e investigadoras en el área. Una base sobre la que abrir una nueva discusión en términos que están aún por explorar y desarrollar en profundidad. A este respecto, se incluyen enlaces de vídeo a pie de página que posibilitan compartir algunas observaciones aquí vertidas, permitiendo a la comunidad investigadora realizar las suyas propias. Estos enlaces son parte del material etnográfico, y se proporcionan con la finalidad de dar voz a los etnografiados, equilibrando las teorizaciones con ejemplos directos.

Una red neuronal es una tecnología de computación que transforma valores de entrada en otros valores que a su vez son transformados consecutivas veces hasta los valores de salida por sucesivas capas. Para el observador, su interior es desconocido. Es una caja negra. Solo conocemos inputs y outputs. Tienen la capacidad de reconocer patrones y pertenecen al modelo conexionista o estadístico de la IA. Estas son capaces de arrojar resultados sin generar explicaciones sobre los fenómenos modelados (Reynoso 2006 :153).

Las redes neuronales que controlan el sistema de recomendaciones de YouTube se responsabilizan de facilitar el descubrimiento de contenido personalizado para más de mil millones de usuarios en el mundo. Dos trabajan conjuntamente ³ . La primera selecciona un subconjunto de contenidos potencialmente relevantes a partir de eventos del historial de actividad del usuario. La segunda puntúa a cada candidato en base a las características que componen tanto al usuario como al vídeo. Esto decide lo privilegiada que será cada publicación en el ranking, esto es, su posicionamiento. Así es explicado por los mismos ingenieros que trabajaron en su diseño (Covington, Adams y Sargin 2016). La tarea de estas redes sería maximizar el engagement ⁴ , anticipar nuestras preferencias, retroalimentándose con información de entrada y salida muy variada. Recursivamente, el comportamiento de los agentes en YouTube estaría influenciado por la predicción del comportamiento de los agentes en YouTube. Aunque este ajuste es imperfecto porque el entorno es cambiante, produciéndose una suerte de efecto Don Quijote ⁵ . Como señalaría Luhmann, la relación entre sistema y entorno sólo puede constituirse renunciando a la «sincronización total» (Luhmann 1998: 64). Durante mi experiencia etnográfica, por ejemplo, observé un comportamiento desconcertante del sistema de recomendación al inicio del confinamiento domiciliario, seguramente debido a los cambios en los hábitos de los usuarios y al periodo de reajuste de las predicciones del sistema.

Evitemos pensar, entonces, que el sistema de recomendación que utiliza YouTube es un reflejo pasivo del comportamiento y el interés de los usuarios, tal y como señalaba Lavado (2010: 89) antes de la implementación de estas redes, cuando afirmaba que «sus contenidos, de alguna manera, nos proporcionan una amplia radiografía sobre los gustos y tendencias de consumo de la red en general». También rechazamos la suposición de que es neutral (Van Dijck 2013). Por el contrario, los algoritmos de IA están sesgados, y sus recomendaciones no son un resultado espontáneo de la interacción entre participantes al menos en dos sentidos. Por un lado, tienen objetivos programados relacionados con la rentabilidad, y por otro también sufren desajustes. Las decisiones de las redes neuronales ejercen una presión selectiva que aparecería reflejada en fenómenos observables, y la dificultad estaría en saber discriminarlos. Se trata entonces de no confundir las decisiones de usuarios y creadores de contenido con las decisiones de una máquina, lo que puede llevarnos a sacar conclusiones erróneas sobre la realidad de lo que ahí ocurre. En otras palabras, para hacer investigación social en YouTube hay que introducir a las redes neuronales artificiales como agentes participantes. Cualquier estudio sobre YouTube que no tenga esto en cuenta podría estar incorporando, sin saberlo, el sesgo introducido por las máquinas. De esta manera, la propuesta que se desarrolla en este texto, aunque tome un marco basado en los estudios clásicos de la antropología, puede interpretarse, si se quiere, desde la propuesta de la Actor-Network-Theory (Latour 2005), donde actantes humanos y no-humanos son considerados de forma simétrica.

La publicación de referencia sobre la plataforma quizás sea YouTube Online video and participatory culture (Burgess y Green 2018), y recientemente en el ámbito hispanohablante la compilación YouTube y la comunicación del siglo XXI (Torres-Toukoumidis y De Santis-Piras 2020), pero en ambas publicaciones la cuestión de los sistemas de recomendación resulta prácticamente contextual e incluso ausente, y la intervención de la Inteligencia Artificial no se problematiza. Así, en el segundo documento se señala, por ejemplo, que «el contenido de YouTube no circula sin mediación: está direccionado por los motores de búsqueda que, como consecuencia, inciden en los “índices de popularidad”» (Colangelo Kraan y Soto Alemán 2020: 72) pero en ningún momento se entra a analizar las extensas consecuencias que ello implica. La discusión académica se expande a otras áreas de problematización como la inversión en youtubers para influir en las decisiones de compra (Lopes et al. 2020) o cuestiones como «los nuevos códigos y lenguajes que se están reconfigurando en estos espacios» (Castillo y Garzón-Vera 2020: 33). Otros enfoques, por su parte, se centran en la imagen y la representación. Las tesis de Guy Debord (1967) se vienen a la mente cuando se navega en YouTube como afirmaciones proféticas. Por ello podemos encontrarlas en la discusión académica como análisis teóricos (Bañuelos 2009) o como referencias necesarias. Los trabajos de Henry Jenkins sobre la denominada cultura participativa también son especialmente influyentes en este campo (Jenkins 2006; Jenkins, Mizuko y boyd, 2016). Se argumenta que los consumidores dejan de ser pasivos para convertirse en participantes o prosumidores mediáticos (Duncum 2011; García Galera y Valdivia 2014). A este respecto, considero que ambas ideas resultan teóricamente débiles y contribuyen a un discurso idealista sobre la democracia y la participación online que invisibiliza las dinámicas de poder que encierran estos espacios. La idea de prosumo, por ejemplo, resulta cuantitativamente más marginal de lo que se da a entender, como muestra un estudio sobre el prosumo de politainment en YouTube (Berrocal, Campos y Redondo 2014). La forma de participación más relevante consistiría en realidad en aportar datos de navegación de forma pasiva, a la manera de clics, cookies o tiempo de reproducción.

En otra línea más preocupada por los efectos sociales de los sistemas tecnológicos encontramos observaciones diversas tanto en los medios de comunicación como en la producción académica. La radicalización y polarización política como resultado del efecto madriguera ⁶ atribuido a los sistemas de recomendación de la plataforma es una cuestión de la que se están haciendo eco los medios (Roose 2019) y algunos investigadores ⁷ (Ribeiro et al. 2020). El mayor número de comentarios generados por contenidos extremistas y/o sensacionalistas podría guardar relación con su propagación, al suponerse que el sistema de recomendación de la plataforma recompensa la interacción. No obstante, frente a la aceptación acrítica de esa hipótesis se sugiere que las causas pueden ser más complejas y requieren investigaciones más profundas sobre la demanda real de estos contenidos, pues el sistema de recomendación tendería, en realidad, hacia contenidos mainstream (Ledwich y Zaitsev 2020). Así, algunas evidencias apuntan a que los usuarios prestan menos atención a los contenidos que ofrecen puntos de vista neutrales o conciliadores (Garimella et al. 2018 en Malinen y Koivula 2020), relativizando el papel de los sistemas de recomendación como responsables. Rebecca Lewis (2018; 2020), sin embargo, ha realizado extensos estudios acerca de cómo sectores de la alt-right recurren a técnicas relacionadas con los algoritmos para posicionarse y conquistar nichos mediante el posicionamiento estratégico de palabras clave para manipular los sistemas de recomendación. La influencia de los algoritmos sobre la visibilidad/invisibilidad de diferentes categorías de agentes sociales y colectivos también forma parte de las preguntas de investigación sobre la plataforma (Bliss 2020).

En definitiva, distinguimos dos corrientes. La primera aborda YouTube bajo conceptos como prosumo o cultura participativa, que considero insuficientes. La segunda lo aborda atendiendo a la tecnología y la economía de los algoritmos, y tiene mayor alcance explicativo. Este texto se inserta definitivamente en esta segunda corriente decidida a explorar los efectos de los sistemas tecnológicos sobre el mundo social, especialmente en tanto los avances en Inteligencia Artificial suponen la delegación de decisiones en favor de esta.

Se entiende por youtuber a cualquier individuo que sube vídeos a la plataforma regularmente, especialmente si ha alcanzado el punto a partir del cual se le permite monetizar ⁸ . Aquí lo definiremos como aquellos agentes que, si bien no han llegado a ese punto, actúan conforme a su logro. Es decir, definiremos al youtuber por su interés en participar y competir dentro del sistema/campo.

Estos trabajan bajo condiciones ya descritas por Pierre Bourdieu (1997: 15, 16) en su exposición Sobre la televisión, donde señaló su propia aparición televisiva como «insólita» para el medio, pues disponía de libertad total para elegir el tema y su duración, «un dominio de los medios de producción que no es habitual». Esta aparenta ser una situación ideal y emancipadora. Sin embargo, la materialización de este dominio no parece haber hecho desaparecer la coacción, sino que simplemente la habría movido de lugar. El control final se distribuiría entre el medio de difusión, el mercado interno y los sistemas de recomendación, que pueden terminar por imponer sus lógicas al creador/a de contenidos si es que este aspira a entrar o a permanecer en el juego. Desde esta óptica, el youtuber está más cerca del individuo auto-explotado que describe Byung-Chul Han (2012) en La sociedad del cansancio como sujeto de rendimiento atrapado por las estadísticas de su propio canal ⁹ , que de la visión idealizada y «emprendedora» que se tiene desde fuera de esta actividad. Como señalan Márquez y Ardévol (2018: 47-48, en Colangelo Kraan y Soto Alemán 2020: 76) ¹⁰ , existe una «retórica optimista y democrática» relacionada con la posibilidad de profesionalizarse como youtuber. Es decir, son vistos como jóvenes que ganan mucho dinero haciendo lo que les gusta y que conquistan al público por tener una personalidad atractiva. Pero esta visión resulta muy parcial e invisibiliza los verdaderos mecanismos que controlan la escena. Así, hay una inclinación psicologista en tratar de comprender el éxito en YouTube mediante la categoría de influencer. Esto es, como «emprendedor talentoso» de la comunicación online que no depende más que de sí mismo, sus habilidades y su personalidad.

Aunque el concepto es considerado de actualidad, está teorizado desde 1955 con la publicación de Personal Influence (Katz y Lazarsfeld 1955), donde se analizó el papel de los líderes de opinión como intermediarios de los procesos comunicativos. Sin embargo, para entender los fenómenos de influencia actuales parece necesario incluir la presión algorítmica como parte de las reglas del juego. Ver a los youtubers como emprendedores tomando la concepción liberal del término descuida la injerencia de los sistemas de recomendación. Un divulgador científico, por ejemplo, explica cómo duplicó su audiencia tras ser mencionado por otro creador de contenido mucho más exitoso. A partir de entonces YouTube comenzó a recomendar más sus vídeos, permitiéndole así dejar su otro trabajo para dedicarse de pleno a su actividad en YouTube ¹¹ . Ello invita a pensar que para abordar el concepto de emprendedor de manera más «abstracta» sería necesaria una perspectiva global del ecosistema de la plataforma, abandonando la noción «mainstream economicista» de emprendedor (Pfeilstetter 2011: 8). Sólo una perspectiva sistémica que tiene en cuenta el entorno permite romper el sesgo ideológico del emprendedor talentoso, que conduce a pensar en YouTube como plataforma para dar voz a figuras que ya estaban ahí esperando a tener un medio de difusión adecuado. Por el contrario, los influencers contemporáneos de la red - excluyendo de este análisis a otras plataformas - son más bien un producto de las políticas de YouTube y sus algoritmos, y destacan en la medida en que pueden contribuir al ecosistema económico de la plataforma. No llegarían a grandes youtubers los más aptos o talentosos, sino los que la economía del algoritmo privilegia por diferentes motivos. Esto permite explicar algunos fenómenos observados. Por ejemplo, canales populares pierden visibilidad sin razón aparente, y esto es atribuido por los afectados a un cambio en el comportamiento de las redes neuronales, llegando al caso de abandonar la plataforma ¹² . En situaciones como esta, los youtubers comparten información entre sí para verificar si otros han notado algún cambio en el comportamiento del sistema de recomendación. Ciertamente, las redes que controlan el sistema entronan y destronan a los creadores/as mientras el balance total sea positivo para la plataforma. Dicho de otro modo, estas redes contribuyen a producir grandes youtubers rentables. Solo los modelos rentables seleccionados por el sistema de recomendación podrían prosperar a largo plazo en este medio, lo que no casa con la noción democrática que se tiene de la plataforma. Sin embargo, como los grandes hombres melanesios, los grandes youtubers, en tanto referentes culturales y por las rivalidades de estatus, parecen intensificar la producción de contenido, estimulando la entrada de aspirantes que quieren ser como ellos y contribuyendo a esta visión personalista de que cualquiera puede ser un youtuber de éxito. Fomentan el interés, la illusio por la participación, pero bajo unos arquetipos concretos y life styles producto del efecto selectivo de estas redes ¹³ . Propongo entonces que la presión ejercida por los sistemas de recomendación moldea y direcciona los fenómenos de influencia, y que el éxito de los youtubers depende más de su capacidad para adaptarse a la lógica de la plataforma que de sus personalidades o talentos. Esto no significa que el talento, una buena conexión con sus audiencias, o la calidad del contenido, no sean factores importantes, sino que en última instancia se ven empujados a poner estas habilidades al servicio del comportamiento esperado del sistema de recomendación. Es más, esto puede ir contra sus talentos, y por ello vemos como creadores/as del ámbito científico terminan produciendo vídeos del género confesional para competir con creadores de otros ámbitos y hacerse ver en el sistema de recomendaciones. En pocas palabras, YouTube hace al youtuber.

Por todo esto, predecir el comportamiento de las redes neuronales, adaptarse a este y poder dominarlo se convierte en un intento de tener cierto control sobre el propio destino profesional en un ambiente de alta incertidumbre, en el que «no sabes cuánto vas a durar» ¹⁴ . Dominar la lógica de YouTube sería, en el fondo, estar dominado por ella. Pero esta lucha contra el sistema de recomendación puede resultar devastadora. En palabras de un youtuber de éxito refiriéndose a la presión de los algoritmos, «es irónico porque somos conscientes de que estamos en una situación privilegiada pero aun así no podemos escapar de esta tortura psicológica. Es como una montaña rusa en cuanto a estabilidad emocional» ¹⁵ .

Así, la apología de la figura del emprendedor «hecho a sí mismo» resulta una coartada ideológica que impide percibir la dependencia de los sistemas de recomendación en el fenómeno youtuber. Los intereses comerciales y los sistemas de Inteligencia Artificial de la plataforma moldearían referentes culturales rentables, puesto que no se trata solo de que el público vea sus vídeos, sino de que las redes neuronales decidan mostrarlo. Contra la idea de cultura participativa, YouTube se construye de arriba hacia abajo. Se trataría de encajar en el molde ¹⁶ , «pasar por el aro», y por ello se ven empujados a negociar con el sistema de recomendación y condicionados por este para no desaparecer.

A continuación, vamos a profundizar en algunas dinámicas sociales derivadas de los sistemas de recomendación. Los youtubers tienden a gestionar sus relaciones entre sí dentro de la plataforma teniendo presente el funcionamiento de estos sistemas. La cuestión fundamental, en la terminología que utilizan los youtubers, es «crecer». Crecer genera en el agente una suerte de adicción, una euforia al ver subir la pendiente de las gráficas de YouTube Analytics, la herramienta que ofrece todos los datos necesarios para evaluar el rendimiento del canal. Pero no crecer es sinónimo de caer ¹⁷ , y la sensación que invade al youtuber llega a ser de enorme frustración e incertidumbre. Esto, como venimos señalando, puede funcionar como desencadenante de la preocupación por las redes neuronales y las formas de negociar con estas.

Podemos examinar la cooperación entre youtubers teniendo como referente las colaboraciones que realizan entre sí desde las tesis sobre la reciprocidad de Marcel Mauss (2009 [1925]). A mi juicio, el efecto de solidaridad y cohesión que se construye por el intercambio de dones y la obligación de dar y devolver puede ser muy frágil entre ellos/as, lo que me acerca a una posición bourdiana en la que el interés se muestra bajo la apariencia de lo desinteresado ¹⁸ . Varias lógicas de intercambio y reciprocidad en la plataforma deben entenderse bajo la premisa de que los dones intercambiados son las audiencias, que pasan a ser mercancías, y que el agente redistribuidor no es el anfitrión, sino una entidad que los intercambiantes invocan: las redes neuronales. El youtuber, por lo general, valora el beneficio neto de la colaboración realizada y lo confronta con el obtenido por la contraparte. A la hora de colaborar, suelen calcular los costes/beneficios. Por su parte, los aspirantes a youtubers o los pequeños youtubers escriben emails pidiendo colaboraciones a los bien posicionados a sabiendas de que ello puede contribuir a lanzar sus canales, aunque por lo general no reciben respuesta alguna. Sin embargo, no hay que entender la negativa a estas propuestas únicamente como una forma de evitar beneficiar a otro sin obtener nada a cambio. En gran parte hay que considerar la cantidad de trabajo adicional que supondría para el solicitado, que necesariamente tiene que discriminar ¹⁹ .

La colaboración es sometida a un cálculo concienzudo (Lange 2019: 122) en el que incluso se pacta la hora de subida de los vídeos. El youtuber que invita a otro a su canal le agradece la colaboración, recomendando sus redes sociales y dejando links a estas en la descripción de sus vídeos, y se espera del invitado que haga lo mismo. Por su parte, el invitado/a deberá invertir el sentido de este intercambio reproduciendo esta colaboración en su propio canal. El propósito implícito es una ganancia de visibilidad a través de la circulación de espectadores, esperándose que las redes neuronales recompensen la acción al mantenerlos durante más tiempo en la plataforma saltando de un vídeo al otro. Se espera también que las redes neuronales favorezcan la aparición en los vídeos relacionados. Si el resultado es contraproducente o peor de lo esperado para alguna de las partes la colaboración se considera un fracaso y es probable que no consideren repetirla.

Otras formas de reciprocidad pueden llegar a estar mal vistas cuando se presentan de determinadas maneras. Así, como observa Patricia G. Lange, el «like por like» y el «sub por sub» se consideran prácticas sospechosas (Lange 2019: 127). Este tipo de prácticas, recurrentes entre cuentas pequeñas, nacen precisamente de las creencias sobre la interacción con las redes neuronales en la promoción de contenidos, e ilustran como el ambiente de competitividad mediado por algoritmos de IA genera códigos de conducta sujetos a valoración social unas veces positiva, como la colaboración, y otras negativa, como el «autobombo», el spam o las formas de reciprocidad vacía que buscan manipular de forma no orgánica los sistemas de recomendación.

Llegados a este punto hemos visto que las redes neuronales que deciden el destino de las producciones son importantes para entender las prácticas de muchos creadores/as. Los youtubers tienen que negociar su actividad en la plataforma con sistemas opacos (Wu, Pedersen y Salehi 2019), y estos se esfuerzan en conocer cómo se comportan. Estas redes neuronales no son realmente predecibles, y esa impredecibilidad es la base de todo lo que acontece al tema que nos ocupa. Es en este resquicio de incertidumbre frente a una máquina «caprichosa» que los/las youtubers ponen en marcha una serie de prácticas análogas a los ritos de fortuna individualistas, las cuales tienen por finalidad poner a los algoritmos de tu parte ²⁰ . Son lo que se conoce como SEO en YouTube (Search Engine Optimization), y comprenden tanto aspectos técnicos como ideas sobre la psicología del espectador u otros conocimientos del ámbito del marketing.

Durante la grabación y edición de un vídeo, el creador/a tratará de lograr un ritmo que retenga a su audiencia para ofrecer algo que se considera satisfactorio para las redes neuronales, con cambios de plano, sonidos y otros recursos que ayuden a capturar la atención para incrementar el tiempo de visualización. También se valdrán de lo que se conoce como CTA (Call To Action), estímulos que buscan una reacción por parte de quien está al otro lado para que realicen alguna acción que dé a entender a las redes neuronales que sus creaciones generan interacción, como comentar, compartir, ver otro vídeo o dejar un like, pues se consideran señales positivas que serán recompensadas por estas. Saben que si dicen las palabras mágicas «dale a like y suscríbete» lograrán mayor cantidad de likes y suscripciones que si no lo hacen, y esperan que la máquina les recompense por ello recomendando su vídeo a más personas. La hora de publicación del vídeo también es tenida en cuenta, y tratan de descubrir con qué frecuencia deben publicar y en qué horarios serán mejor recompensados. El clickbait es otro recurso. Consiste en un mensaje (imagen, texto) pensado con la finalidad de llamar la atención del usuario para que haga «clic» sobre un contenido, lo que en ocasiones genera una expectativa errónea. Algunas técnicas de clickbait consisten en utilizar títulos sensacionalistas o intrigantes, llamativos marcos para los thumbnails que rompan el patrón visual para destacar, rostros humanos con expresiones exageradas, imágenes sexualizadas, o elementos visuales que parecen demostrar cierta eficacia como, por ejemplo, una flecha roja ²¹ . En el lado más técnico, se tienen en cuenta los metadatos que pueden ayudar a las redes neuronales a encontrar al público adecuado. A veces se intenta engañarlas, por ejemplo, utilizando tags que tengan mucha demanda, plagiando los de un competidor o declarando el vídeo bajo una categoría falsa ²² . Pero al mismo tiempo estas prácticas pueden ser penalizadas. Se dice que si intentas engañar a las redes neuronales y estas «se dan cuenta» del engaño, podrían echar el trabajo a perder y volverse en contra.

He podido comprobar que muchas de estas técnicas parecen surtir efecto, pero los resultados no son nunca concluyentes, y en ocasiones incluso contradictorios. Unas veces aparecen patrones de causa y efecto, como si se hubiesen logrado aislar las variables del éxito. Pero otras muchas veces la ilusión de causalidad se hace añicos. A mi juicio esto es porque no se trabaja en un ambiente mecánico, sino sistémico, donde las acciones individuales pasan a un complejo entorno de interacciones donde la última palabra la tienen las redes neuronales, cuyo trabajo se orienta al beneficio de la plataforma en su conjunto. De este modo, las prácticas SEO están más cerca del comportamiento mágico que del científico, y producen más la ilusión de control que un control real. Curiosamente, en el mundo del SEO se diferencia entre técnicas white hat y black hat, esto es, entre prácticas éticas y prácticas de engaño. Un uso del lenguaje que evoca la distinción entre magia blanca y magia negra. Por supuesto no quiere decirse que el SEO sea una literalmente como magia, sino que cumple para los participantes similares funciones sociales y psicológicas frente al entorno.

Por ejemplo, la distinción de Frazer (1944 [1890]) respecto de las que llamó «ley de similitud» y «ley de contagio» en las prácticas mágicas se presentan en la práctica del SEO en YouTube bajo la suposición de que si el vídeo de «B» es muy recomendado por la plataforma, «A» deberá introducir en su vídeo algún elemento común con el vídeo de «B» (por ejemplo, etiquetas y metadatos) para que las fuerzas algorítmicas produzcan el mismo efecto sobre su propio vídeo. De igual manera, las colaboraciones y citaciones cruzadas esperan provocar el efecto de que el contacto entre «A» y «B» resulte en una relación duradera que quede grabada en el sistema de recomendación. La propia plataforma notifica a la audiencia en ocasiones mensajes del tipo «quienes ven el canal de A también suelen ver el canal B». Un análisis más profundo podría incluso identificar patrones directos e indirectos, positivos y negativos, además de los simpáticos y de contagio mencionados, siguiendo el esquema analítico de Arnold van Gennep (2008 [1909]: 29). Así, las prácticas SEO van conformando un sistema de prescripciones y de restricciones, de lo que se debe hacer y lo que no, y la red neuronal aparece como un agente que establece recompensas o penalizaciones en función de cómo se la alimente y del cumplimiento de la técnica.

Cabe destacar que algunas personas instruyen en estas técnicas para controlar las redes neuronales y garantizar el éxito. Los consultores que dicen saber los trucos para «manipular» las redes neuronales se conocen como «gurús» del SEO en YouTube. Muchas veces son criticados como «vendedores de humo» ²³ , pero otras gozan de credibilidad y venden su trabajo. Observando a quienes comentan en sus vídeos, encontramos canales de poco impacto que aspiran a convertirse en youtubers profesionales, dispuestos a pagar por conocer estos secretos. En cierto sentido, aparecen como intermediarios entre humanos y máquinas, expertos en la negociación que prometen hacer que los algoritmos trabajen para ti o se pongan de tu parte ²⁴ . Incluso esto se refleja en el lenguaje del demandante, como «encuentra el truco» o «haz la magia».

En esta negociación se aprecia como los youtubers y aspirantes a youtubers significan las redes neuronales como fuerzas que aspiran a controlar, y a las que atribuyen características, comportamientos y rasgos antropomórficos. He podido comprobar durante la revisión bibliográfica que ya se han realizado observaciones en este sentido recientemente. Eva Yiwei Wu, Emily Pedersen y Niloufar Salehi (2019: 1) están trabajando esta cuestión dentro del marco de investigaciones sobre las relaciones entre humanos y lo que denominan «personas algorítmicas». Se enfocan, como estamos haciendo, en conocer cómo los youtubers dan sentido a los sistemas tecnológicos con los que negocian. Descubrieron que «los youtubers dan sentido al algoritmo asignándole características y objetivos humanos para explicar su comportamiento» (traducción propia). Identifican además tres roles genéricos que han clasificado como el agente, que promueve la participación mostrando el vídeo al público ideal, el guardian, que se pone entre el youtuber y el público decidiendo qué debe ser visto, y por último el drug dealer (narcotraficante) cuya misión es mantener al público enganchado a la plataforma.

Mi análisis, por su parte, no condujo a la idea de «personas algorítmicas», sino más bien de entes que desempeñan para los jugadores dos papeles principales: aliados o adversarios. Y se comportarán de una forma u otra en base a una serie de prácticas que siguen un modus operandi característico. Podemos pensar en el concepto antropológico de manipulación al asegurar que los youtubers construyen su relación con las redes neuronales del sistema de recomendación del modo en que algunas prácticas mágicas se sostienen sobre la idea de que la suerte puede ser manipulada con el favor de espíritus auxiliares.

El carácter ambiguo que se le atribuye al «algoritmo» como traicionero unas veces y colaborador en otras me conduce a compararlo con la misteriosa figura mitológica escandinava de Loki. La antropología conoce las ambigüedades de algunos espíritus y seres mágicos. Así, el famoso escrito de Lévi-Strauss (1970 [1958]: 169, 171) sobre La eficacia simbólica señala como «el nele puede movilizar a estos malos espíritus y hacerlos sus protectores o sus asistentes» y advierte que Muu «no es entonces una fuerza fundamentalmente mala, sino una fuerza descarriada». En este sentido, podemos establecer una analogía entre la Inteligencia Artificial y los seres espirituales de tipo animista, ya que la incertidumbre que mueve a los youtubers a considerar el funcionamiento de las redes conduce a circunscribir el fenómeno observado atendiendo a su función. Quien se relaciona con estas entidades bien empieza a considerar los tributos con los que las debe alimentar para conseguir algo de ellas, bien trata de engañarlas para que no le perjudiquen, o bien recurre a especialistas. Todo conduce a la idea de control, de reducir la incertidumbre, que considero la base de todos los fenómenos aquí reseñados. Un control arrebatado por los nuevos sistemas tecnológicos que anticipa una nueva era de incertidumbres y de mecanismos para afrontarla.

Importante advertir, dado que la antropología nunca ha llegado a un verdadero consenso sobre la distinción entre magia y religión (Cantón 2001: 50) que tomo prestada a efectos teóricos una lectura no religiosa y plenamente funcional-sistémica sobre la idea de magia al comparar las prácticas mágicas y las prácticas SEO. Por un lado, refiriéndome al carácter individualista de muchas de estas prácticas. Así, como los consultores SEO, «el mago tiene una clientela, no una Iglesia» (Durkheim 1968 [1912]: 47). Por otro, tomando de Malinowski (1994 [1925]) la idea de magia como medio para un fin. Especialmente, en cuanto esta finalidad se orienta hacia el control y predicción frente al entorno (Aberle 1966), o en nuestro caso, sobre el sistema de YouTube como medio que se intenta someter. Las prácticas SEO cumplirían así tanto funciones sociales y psicológicas como obedecerían a moldear y repetir un patrón de conducta. Es decir, cuando un youtuber trata de manipular las redes, paralelamente se manipula a sí mismo. Se amolda a un estereotipo. Aparecen como un mecanismo regulador del ecosistema de la plataforma.

Por supuesto mi exposición no describe ni agota todo lo que ocurre entre youtubers, y por ello es de justicia advertir que no todos los comportamientos se amoldan a lo descrito. Youtubers desiguales pueden colaborar por la amistad que les une más allá de la plataforma. Canales grandes pueden favorecer a canales pequeños simplemente porque los creadores/as tienen interés en el trabajo de otros. Muchas otras veces, aun conociéndose el papel del sistema de recomendación, los creadores/as prefieren ignorarlos y hacer las cosas a su manera. No todo se orienta a satisfacer a las redes neuronales, tan solo se apunta a una inclinación, la más voraz, subrayando el efecto selectivo que ello produce sobre el medio.

Tampoco estas redes tienen todo el control. YouTube y sus políticas son otra injerencia ²⁵ . Las tendencias que se incorporan desde el entorno también explican fenómenos de los que no se puede responsabilizar a los sistemas de recomendación. No todos los youtubers significan las redes neuronales de esta forma, ni las acusan cuando las cosas no les van bien. Para algunos son las personas de carne y hueso detrás de la empresa las que les ayudan o perjudican. Para otros son las preferencias del público. Además de no recomendar los vídeos, también puede ejercerse control mediante la desmonetización del contenido o del canal, desincentivando la participación. Aunque pueden buscar vías alternativas de financiación para sobreponerse a la penalización. Como venimos señalando, por encima de todo la última palabra la tendría el control publicitario. Pese a que los pormenores del sistema de recomendación son un secreto de la plataforma, sostengo que en términos globales se promociona lo que más retorno económico produce. Pero aun así encontramos una contradicción, una clase de doble constreñimiento (haz «A», no hagas «A»), ya que las creencias sobre lo que las redes neuronales favorecen pueden ser muchas veces contrarias al interés de los anunciantes. Así, podemos pensar en el «adpocalypse», nombre por el que se conoce a las fugas de anunciantes relacionadas con las sucesivas controversias en cuanto a los contenidos de YouTube (van Natta 2020). Algunos consideran que la presión de las políticas de la plataforma y de los anunciantes les fuerza a la autocensura y merman su libertad de expresión mediante la desmonetización o mostrando menos sus vídeos. Si bien estas medidas buscan atajar el problema de los discursos de odio en la plataforma, los creadores afectados protestan por los «falsos positivos» ²⁶ , así como critican dobles raseros que permiten a artistas respaldados por grandes discográficas mostrar contenidos sexistas mientras se ponen strikes a creadores independientes por mostrar un simple beso ²⁷ . Los creadores/as se sienten, por un lado, presionados a aumentar la carga polémica o sensacionalista para retener a la audiencia y generar interacción para que recomienden más sus vídeos, y por otro son empujados a realizar contenido aséptico que no pueda disgustar a los anunciantes. No hay una manera óptima de resolver estos problemas que contente a todos. Es decir, no hay almuerzo gratis: las mejoras en un lado se hacen a expensas de errores en el otro ²⁸ . La propia plataforma tiene que lidiar con esta contradicción, ya que el tiempo de visualización (y por tanto el consumo de publicidad) parece aumentar recomendando contenidos que satisfacen el sesgo de confirmación del espectador, muchas veces desinformativos, al tiempo que necesita atraer anunciantes priorizando las fuentes autorizadas para evitar un nuevo «adpocalypse» (Masadeh y Hamilton 2020). Dicho esto, el youtuber perfecto sería aquel que luce como un escaparate donde las empresas pudieran anunciarse sin temor a la polémica y que aun así sea capaz de lograr llegar a una amplia audiencia de consumidores. Al menos, esto es lo he podido ver que exigen los anunciantes que les escriben para patrocinios. Pero no todos los youtubers están dispuestos a ajustarse al molde, y en estos casos las prácticas SEO no aparecen como contribuciones al modelo de negocio de la plataforma, sino como una forma de resistencia.

En la nota a la edición en castellano de Sistemas sociales: lineamientos para una teoría general, Torres Nafarrate (1998) recalca palabras de Luhmann que señalan al prejuicio humanista como parte de los obstáculos epistemológicos para una comprensión compleja de la sociedad. Esta ruptura es la que me permite introducir las redes neuronales como agentes participantes, tanto de forma emic, por las significaciones que le dan los youtubers, como de forma etic, al introducirlas como un agente más en la interacción. Sin embargo, estas no operan mediante sentido y por tanto quedarían en el entorno de los sistemas sociales. Pero cabe señalar que sus operaciones repercuten sobre lo social en la medida en que tienen por función coaccionar y seleccionar entre múltiples alternativas. Hacen una preselección que antes correspondía a otras estructuras sociales.

Tener presentes los efectos de estas máquinas se está convirtiendo en un requisito para numerosos ámbitos de investigación social. La antropología tiene un papel en el estudio sobre las implementaciones de la Inteligencia Artificial, y también ha tenido un rol importante en su teorización y desarrollo (Álvarez Munárriz 2001). No solo se trata de investigar la Inteligencia Artificial desde la antropología, sino de investigar en antropología haciendo uso de la Inteligencia Artificial (Véase, p.e. Castelfranchi 1998). Los equipos multidisciplinares son esenciales para abordar realidades complejas de este tipo. Pero la procedencia de la financiación es también importante. Poco se puede hacer si las conclusiones de los investigadores e investigadoras friccionan con los intereses de la compañía para la que trabajan ²⁹ .

Estamos dejando en manos de estos sistemas la toma de decisiones, y preocupa la falta de neutralidad y la aparición de sesgos que ya se están manifestando. Por ello las Ciencias Sociales afrontan nuevos escenarios donde se demanda su participación. Por ejemplo, el Instituto de Evaluación de Tecnología y Análisis de Sistemas (ITAS, Alemania) estudia el impacto sistémico y las consecuencias no intencionales de las implementaciones de sistemas tecnológicos de estas características ³⁰ , como la discriminación por algoritmos, así como promueve su gobernanza pública. También en España la Estrategia Nacional de Inteligencia Artificial (ENIA) ³¹ promete tener en cuenta la investigación social en este ámbito, con una inversión pública de 600 millones de euros entre 2021 y 2023. No obstante está por ver cómo se distribuirán las inversiones, y la antropología debe defender su incorporación al debate.

Aquí espero haber mostrado las implicaciones más ocultas de la IA, al menos en un ámbito particular. Quizás haya quedado una lectura sombría sobre YouTube que no hace justicia a otros usos que se hacen. Además, gran parte del contenido que podemos encontrar en la plataforma no tiene que ver con youtubers o aspirantes a serlo, y quedan fuera de los fenómenos reseñados. Muchas cuestiones han quedado en el tintero y seguramente necesiten matizarse. Con todo, la finalidad de este texto se orienta principalmente a señalar algunos aspectos sobre la interacción entre humanos e inteligencias artificiales que pueden ser pasados por alto. Especialmente en tanto plantean algunos debates éticos sobre los caminos que pueden tomar las aplicaciones basadas en IA.

Como hemos visto, el feedback que reciben los youtubers a través de la herramienta YouTube Analytics pueden afectar a sus decisiones de continuar o abandonar, subir un contenido u otro, modificar o no la presentación, subir más o menos cantidad, a una u otra hora del día, etc. Se ven empujados a adaptarse a las demandas del sistema de recomendación de la plataforma para mantenerse dentro del juego. De algún modo esto les invita a significar los sistemas tecnológicos basados en Inteligencia Artificial que unas veces les ayudan y otras les perjudican, y estos tienden a atribuirles rasgos antropomórficos durante el proceso de negociación que realizan frente a estos, ya sea viéndolos como aliados o como adversarios. Unas redes neuronales que se manifiestan como entidades ambiguas que tratan de manipular mediante prácticas concretas, un modus operandi característico. En tanto práctica, mediante el SEO tratan de controlar el medio en el que «habitan». Como apunta Emily Pedersen (2019), sus producciones están «a merced» de unos algoritmos que les generan incertidumbre, y sobre los que tratan de ejercer cierto control, anticipándose a sus preferencias.

Por el momento, sería interesante profundizar más en el lugar que ocupan estos «entes» que viven en YouTube. Cómo moldean y regulan lo que ocurre en este medio. No sólo por sus funciones prácticas para la empresa - producir youtubers rentables - sino a través de los comportamientos que ponen en marcha los agentes partícipes para «alimentarlos», esquivarlos, engañarlos, protegerse de ellos o, al menos, al considerarlos en sus decisiones. Cuestiones que, como he defendido, actúan como un mecanismo regulador que convierte sus producciones en ofrendas para las redes neuronales. Algo que recordaría al supuesto papel que jugaban los espíritus de los antepasados para los tsembaga maring (Rappaport 1987), salvando obviamente notables diferencias. Por si hay algún lector/a no formado en antropología, hablamos de un grupo de horticultores papúes que destinaba gran parte de sus recursos a la cría de cerdos, hasta punto de sacrificar por ellos su propio bienestar. Estos cerdos se consumían con ocasión del kaiko, un ritual quindenial para satisfacer a los antepasados ofrendándoles la carne espiritual de los animales. Durante los meses siguientes se iniciaban hostilidades entre grupos enemigos con resultado de varias muertes y la conquista del territorio por parte de los vencedores, volviéndose a iniciar el ciclo de cría de cerdos para preparar futuras vendettas. Los voraces espíritus de los antepasados que demandan ser alimentados con cerdos jugarían un papel fundamental en la regulación ecológica y demográfica de la región, ya que obligaban a los vivos a no vivir demasiado bien y terminar agotando los recursos forestales. Es pocas palabras, los espíritus asumían el control operativo del entorno, ya sea a costa de duros sacrificios para los vivos. De modo parecido, las creencias de los youtubers y aspirantes a youtubers sobre lo que quiere una voraz Inteligencia Artificial condiciona sus relaciones sociales y los contenidos que producen, trabajando para una máquina que los moldea y que les dicta lo que deben hacer en beneficio de la salud de la plataforma en su conjunto. Los primeros producían cerdos para los antepasados. Los segundos producen vídeos para las redes neuronales.

La interacción entre humanos e inteligencias artificiales podría ser entonces algo en lo que la antropología ya tiene cierta trayectoria, en tanto que ha lidiado ampliamente con la relación entre humanos y espíritus. Con todo espero desarrollar estas ideas, e invito a investigarlas colectivamente y realizar estudios amplios y bien definidos, no sea que en realidad se estén persiguiendo fantasmas. No obstante el debate está abierto. Por un lado, se concibe la Inteligencia Artificial como algo que debe estar a nuestro servicio. Por otro lado, si las cosas van por este camino, debemos tener cuidado de no acabar como los Tsembaga, que sacrificaban su propio bienestar para tener a los espíritus satisfechos.