A principios de mes me encontré este ensayo de Eric Raymond, más conocido por la Catedral y el Bazar. Como sabéis es miembro fundador de la Open Source Initiative, que pretende estimular el uso de software libre entre empresas e instituciones, entre otras cosas cambiándole el nombre; él y sus colegas se inventaron lo de open source, o "código abierto" en traducción libre. En franca oposición a Richard Stallman y su free software innegociable.

Antes de seguir os recomiendo leer el ensayo ("Las Guerras Terminológicas: Un Análisis de Contenido en la Web") si podéis con el inglés. En él, esr intenta demostrar que "open source" se usa muchísimo más que "free software" en múltiples sitios de la web, entre otros sourceforge.net. Para ello qué mejor herramienta que un buscador, ¿no? Así que a tirar de Google; sólo que éste es famoso por su falta de precisión al contar resultados. Así que se va a Yahoo! y empieza a buscar los términos: "open source" OR "free software", "open source" AND NOT "free software", "free software" AND "open source" y así sucesivamente. En sourceforge.net, que es el caballo de batalla más importante, encuentra que las proporciones están 98% a 3% a favor de "open source" (con algo de solapamiento, es decir páginas que usan ambos términos). "Apenas por encima del nivel de ruido", concluye.

problema de filtros

Sólo hay una pequeña pega: sourceforge.net pertenece a OSTG, más conocida como Open Source Technology Group. Y en todas sus páginas (las que pertenecen a la empresa, no las de desarrolladores) aparece un aviso de copyright como éste:

© Copyright 2004 - OSTG Open Source Technology Group, All Rights Reserved

'site:sourceforge.net (("open source" OR "free software") AND NOT "open source technology group")'
  160,000 (100%)
'site:sourceforge.net (("open source" AND "free software") AND NOT "open source technology group")'
  18,100 (11%)
'site:sourceforge.net ("open source" AND NOT "open source technology group")'
  99,000 (62%)
'site:sourceforge.net ("free software" AND NOT "open source technology group")'
  73,600 (46%)
'site:sourceforge.net (("open source" AND NOT "free software") AND NOT "open source technology group")'
  82,100 (51%)
'site:sourceforge.net (("free software" AND NOT "open source") AND NOT "open source technology group")'
  55,300 (35%)

El siguiente punto del ensayo se dedica a buscar en sitios donde "free software" podría ser más popular. Nada menos que en savannah.gnu.org y savannah.nongnu.org, donde el copyright es:

Copyright (C) 2000, 2001, 2002, 2003, 2004 Free Software Foundation [...]

correspondencia

Me puse en contacto con esr el 13 de octubre para informarle de estos errores de método, y él empezó a poner pegas: que si en esa época se llamaba Open Source Development Labs y no OSTG, que si el buscador no debería indexar las páginas generadas con CGI. Pero en un comentario de lwn.net y en una entrada de blog sale claramente el antiguo copyright, que confirma mis resultados.

Nada más hasta que este domingo 24 de octubre le escribí para decirle que iba a mandar una carta al editor de lwn.net, explicando los errores. En seguida me respondió diciendo que mejor me esperara y así hacíamos una carta conjunta. Cómo negarme a esta proposición. Así que le envié lo que tenía, incluyendo nuevos problemas.

errores de bulto

Sí, aún hay más. El ensayo sigue haciendo un análisis de sitios de noticias relacionados, como news.com (donde "open source" aparece unos dos millones de veces) y informationweek.com (con 150,000 ocurrencias). Ahora quitemos el término clave: site:news.com -"open source" nos deja con 122.000 páginas (la mayoría antiguas), y site:informationweek.com -"open source" con 310. Poco donde elegir; ¿es creíble que el 95% de las páginas del sitio hablen de "open source"?

El problema está en el éxito innegable del término: ambos sitios de noticias tienen un enlace a "open source" en el menú de navegación, que aparece en todas las páginas salvo las más exóticas o las de archivo. Por lo tanto otra fuente de errores a favor de open source. En los restantes tres sitios analizados no es tan clarísimo, pero también hay múltiples secciones "open source" repartidas por sus páginas.

Ahora pasemos a la última sección: búsqueda en la web completa. Tras hacer una estimación del número de falsos positivos con "free software", que sale en muchísimas páginas con software gratis (en inglés no se distinguen ambos conceptos, para desdicha eterna de Stallman), esr mete a bulto todas las páginas donde sale "open source", excepto las que contienen un concepto esotérico llamado "open source intelligence".

Aquí se nota el efecto acumulado de los anteriores problemas. De los 24 millones de páginas que yo encontré, más del 20% provenía sólo de dos fuentes que ya hemos visto: o contenían "open source technology group" o venían de news.com. Sin embargo esr no corrige en absoluto sus valores, y al final llega a 95% contra 5% a favor de "open source".

conclusión inconclusa

Como respuesta a todo esto, expresado en un correctísimo inglés de Majadahonda, recibo un mensaje en el que esr me cuenta que tengo razón con lo de news.com, pero que eliminar el copyright de sourceforge.net también deja fuera muchas páginas legítimas. Le respondo que sí, pero que así por lo menos la muestra está equilibrada. Y hoy recibo otro correo en el que me dice lo siguiente (más o menos traducido):

Sí, es un problema. Significa que tus resultados no contienen menos ruido que los míos, y muy posiblemente más -- no se puede saber. No creo que ninguno de los dos deba hacer público el asunto hasta que pensemos cómo hacerlo mejor.

Añadiré una nota aclarativa a mi artículo.

Estoy pensando en usar el API de Google para hacer búsquedas masivas, recogiendo los resultados a mano y filtrando con expresiones regulares.

Eric S. Raymond