: actividadlibre; 26 Abril 2022

Elon Musk : anuncio que el algoritmo de código abierto no lograría resolver los problemas de Twitter

El multimillonario de Tesla tiene grandes planes para Twitter, pero un algoritmo de código abierto por sí solo no resolverá los problemas de sesgo

La búsqueda pública de Twitter por parte de Elon Musk parece estar lista para dar sus frutos después de que la junta directiva de la red social aceptara una oferta pública de adquisición de $ 44 mil millones del hombre más rico del mundo. Musk ya ha presentado grandes planes para Twitter , incluida la promesa de hacer que el algoritmo de control de contenido de la compañía sea de código abierto en nombre de la transparencia. Pero los expertos dicen que esto puede equivaler a poco más que un "gesto simbólico" y podría presentar un riesgo de seguridad cibernética para Twitter y sus usuarios.

Musk hizo su primera oferta por Twitter hace dos semanas después de adquirir una participación del 9% en la empresa. La red social inicialmente rechazó sus avances, pero ayer anunció que se había llegado a un acuerdo en el que el CEO de Tesla pagará $ 54.20 por acción de la compañía.

"La libertad de expresión es la base de una democracia que funcione, y Twitter es la plaza pública digital donde se debaten asuntos vitales para el futuro de la humanidad", dijo Musk, quien tomará Twitter como privado una vez que se complete el acuerdo.

¿Es realista un algoritmo de Twitter de código abierto?

Twitter ha sido criticado por su incapacidad para lidiar con el discurso de odio y la desinformación, problemas que también afectan a otras plataformas de redes sociales. Tanto la UE como el Reino Unido han presentado legislación, la Ley de Servicios Digitales y el Proyecto de Ley de Seguridad en Línea , respectivamente, cuyo objetivo es aumentar la responsabilidad de las plataformas de redes sociales para controlar el contenido peligroso. Musk ha criticado abiertamente las políticas de moderación de contenido de la plataforma por diferentes motivos, principalmente porque cree que obstaculizan la libertad de expresión.

Hablando de sus planes para la plataforma, Musk dijo: "También quiero que Twitter sea mejor que nunca mejorando el producto con nuevas características, haciendo que los algoritmos sean de código abierto para aumentar la confianza, derrotando a los robots de spam y autenticando a todos los humanos. Twitter tiene tremendo potencial: espero trabajar con la empresa y la comunidad de usuarios para desbloquearlo".

Musk aún tiene que dar detalles sobre cómo podría hacer que los algoritmos de la compañía, que priorizan el contenido que ven los usuarios, estén disponibles para un mayor escrutinio. Puede ser más fácil decirlo que hacerlo. "Los movimientos para aumentar la transparencia mediante la divulgación de información sobre cómo funcionan dichos algoritmos son generalmente algo bueno, pero la fuente abierta del código real conlleva sus propios riesgos", dice Michael Rovatsos, profesor de inteligencia artificial y director del Centro Bayes para la ciencia de datos y AI en la Universidad de Edimburgo.

Los mecanismos que determinan lo que aparece en la línea de tiempo de una plataforma de redes sociales suelen ser "extremadamente complejos", dice el profesor Rovatsos, e "involucran cosas como la moderación y el filtrado, la promoción de contenido pago y la elaboración de perfiles de usuarios".

Agrega: "Cuando hablamos de 'el algoritmo', en realidad es una combinación compleja de procesamiento de datos y pasos de intervención humana, además de modelos algorítmicos que han sido entrenados con el uso de datos históricos; es probable que una versión de código abierto de los algoritmos centrales no nos diga mucho sobre cómo se forma realmente el contenido en Twitter.

"Tener el código, por supuesto, tampoco es suficiente para comprender realmente cómo funciona la plataforma, ya que su comportamiento real depende de los datos que se introducen en ella. Creo que es poco probable que Twitter revele cantidades sustanciales de estos datos, por razones comerciales obvias, y , en el caso de tuits que no son públicos, compartirlos violaría las reglas de privacidad en muchos casos".

El Dr. Daan Kolkman, investigador sénior en toma de decisiones en la Academia Jheronimus de Ciencia de Datos en los Países Bajos, está de acuerdo en que el código abierto del algoritmo "parece un buen movimiento". Pero, dice, "bien puede ser poco más que un gesto simbólico en la práctica. Todo depende de cómo será exactamente de código abierto".

Él explica: "Tener acceso al algoritmo no es suficiente para garantizar la equidad. Para realizar una auditoría algorítmica sólida, desea, entre otras cosas, acceder a los datos utilizados para entrenar el modelo y conocer el proceso de desarrollo. Es probable que los algoritmos de Twitter estén actualizados con frecuencia, por lo que solo tener una instantánea no es tan útil".

Abrir el algoritmo de Twitter podría suponer un riesgo para la seguridad

Incluso si Musk logra hacer que el algoritmo de Twitter sea de código abierto, puede crear más problemas para él y su empresa recién adquirida en lo que respecta a la seguridad.

Si estuviera disponible gratuitamente, el algoritmo de Twitter probablemente sería adoptado por otras plataformas sociales, anunciantes y otras personas que "están buscando perfeccionar su selección de usuarios", dice Jamie Moles, de la empresa de seguridad ExtraHop. Eso podría proporcionar a los ciberdelincuentes la motivación para tratar de comprometerlo, argumenta.

"Como hemos visto con Log4Shell y Spring4Shell , las vulnerabilidades en las aplicaciones de código abierto ampliamente utilizadas son exponencialmente más valiosas", dice Moles. "Hacer que su código sea de código abierto puede aumentar la transparencia para los usuarios de Twitter, pero también puede convertir a Twitter en un objetivo mucho más importante para los atacantes".

Sin embargo, es probable que la promesa de Musk de erradicar los bots sea de interés para la comunidad de seguridad. "Si tiene éxito, los métodos utilizados por Twitter para eliminar los bots de la plataforma pueden generar nuevas técnicas que mejoren la detección e identificación de correos electrónicos no deseados, publicaciones no deseadas y otros intentos de intrusión maliciosa", dice Moles. "Si Musk y su equipo pueden entrenar a la IA para que sea más eficaz en la lucha contra esto, bien podría ser una bendición para los profesionales de la seguridad en todas partes".

¿Puede Elon Musk resolver los problemas de Twitter?

El profesor Rovatsos cree que tomar medidas sobre el algoritmo de Twitter no llegará a la raíz de los problemas con la plataforma. "Hay una suposición implícita en la declaración de Musk de que resolver problemas relacionados con el sesgo es una cuestión de obtener el algoritmo correcto", dice. "Esto simplemente no es cierto. Los algoritmos no resuelven los problemas éticos, las personas y las organizaciones lo hacen, y eso requiere implementar mecanismos sólidos de gestión de riesgos, gobernanza y supervisión que mantengan a los usuarios seguros y protegidos, salvaguarden los valores sociales clave y protejan los derechos fundamentales. ."

Agrega que el compromiso de Musk con el "absolutismo de la libertad de expresión", declarado a menudo, podría resultar problemático. "Me preocupa que la reducción de la moderación del contenido exacerbe los problemas existentes en torno al discurso de odio, la desinformación y otros daños en línea, mientras que al mismo tiempo revelar algunos detalles técnicos podría crear una apariencia de transparencia", agrega el profesor Rovatsos.

Historias relacionadas :

¿Cuáles sería los riesgos emergentes del código abierto?

Mastodon : considerado como una alternativa de código abierto a Twitter

¿Cuáles sería las 3 tendencias en código abierto empresarial?

Elon Musk : mencionó que el algoritmo de Twitter debería ser de código abierto

¿Porqué a medida que 5G cambia a la nube, los proyectos de software de código abierto están en crisis?

¿Qué beneficios brinda la tecnología de código abierto para la lucha contra el cambio climático?

¿Cuáles sería las reglas básicas para la gestión de software de código abierto?

¿Porqué las empresas luchan por el software de código abierto?

NetApp : adquiere Instaclustr con la finalidad de ofrecer base de datos de código abierto

NUnit : ya está utilizando herramientas de código abierto para probar el código .NET

Alluxio : acreditado por innovación tecnológica en código abierto y Big Data