samedi 22 janvier 2011

On ne parle pas des NewsGroups – Contourner Hadopi


Maintenant qu’Hadopi est lancé, beaucoup veulent utiliser des solutions de téléchargement qui ne soient pas sous les radars du gouvernement. Parmi ces solutions, les Newsgroups. Vous êtes nombreux à vous interroger sur les newsgroups et à me demander comment ça marche. Les téléchargements sur les newsgroups existent depuis des lustres et sont toujours épargnés en partie grâce à leur relative complexité et la discrétion qui les entoure. Cela reste pour autant l’une des solutions les plus rapides et les plus sûres à l’heure actuelle.

Les NewsGroups, c’est quoi ?

Les NewsGroups sont à la base des groupes de discussion, un peu à la manière d’une NewsLetter à laquelle on s’inscrit. Ces groupes de discussion sont hébergés sur des serveurs tous synchronisés entre eux, c’est le système UsenetPour accéder aux NewsGroups, il faudra donc avoir accès à l’un de ces serveurs, la plupart du temps payant.
A l’origine, les messages échangés sur ces groupes de discussion étaient seulement du texte ou des images, échangés par des internautes sur des sujets divers. Aujourd’hui, ce sont les messages binaires qui représentent la part la plus importante des NewsGroups. Ce sont des messages qui contiennent des données binaires qui une fois rassemblées représenteront un fichier de plusieurs Mo ou plusieurs Go comme un film par exemple. Les groupes de discussion correspondant sont facilement repérables puisque souvent nommés « alt.binaries ».
C’est ce qui peut sembler complexe dans les NewsGroups : les fichiers seront hébergés dans un ou plusieurs groupes de discussion, et séparés en quelques dizaines ou centaines de parties. Heureusement aujourd’hui les logiciels de NewsGroups masquent complètement cette complexité et se chargeront de reconstituer et décompresserautomatiquement un fichier composé de multiples parties.
Aujourd’hui, les échanges de fichiers binaires sur les NewsGroups sont tellement importants qu’ils peuvent représenter 15 millions de messages soit 15To (15 000 Go) par jour… je vous laisse calculer l’espace disque nécessaire à certains fournisseurs de Newsgroups comme Giganews qui stocke désormais plus de 800 jours de données.

Les serveurs de NewsGroups

L’offre de NewsGroups est très riche et on trouve un peu de tout à tous les prix.
Les critères suivants sont importants pour le choix du serveur :
  • Le nombre de connexions et la bande passante : les fournisseurs de NewsGroups limitent souvent la bande passante de téléchargement, par exemple à 1Mb, 5 Mb, 10 Mb, etc. Un autre facteur est le nombre de connexions : il est parfois difficile d’atteindre la bande passante maximum avec peu de connexions, même si votre accès internet le permet en théorie. Ici, à vous de tester et de prendre une limite qui puisse correspondre à celle de votre connexion Internet, vous pouvez aussi vous contenter d’un débit inférieur si vous n’êtes pas spécialement pressé.
  • La limite de téléchargement : les forfaits ne sont pas tous illimités, une limite de quelques Go existe parfois. Bien sûr plus la limite est faible, plus le prix est faible. L’abonnement illimité est le plus onéreux.
  • La durée de rétention : celle-ci indique la durée pendant laquelle un fichier sera conservé sur les serveurs de l’hébergeur après avoir été envoyé pour la première fois. Les annuaires de référencement des Newsgroups indique très souvent cette durée pour savoir si le fichier vous sera accessible ou non.
  • La localisation du serveur : un serveur plus près c’est une garantie supplémentaire d’obtenir réellement le débit vendu par le fournisseur que vous aurez choisi. Un serveur trop près (en France), et c’est la loi Française qui le guette. Heureusement pour nous, on aura souvent le choix : les serveurs sont parfois aux Etats-Unis, quelques fois en France, et souvent ailleurs en Europe (Pays-Bas, Allemagne, etc.).
  • Le prix : il est en général une combinaison des critères précédents. Des réductions sont souvent possibles pour les abonnements longues durées.
Quelques fournisseurs que j’ai testé :
Giganews : un des plus connus avec un service irréprochable mais qui se paye : illimité etSSL en option. Service de VPN gratuit pour les abonnés Diamond. Illimité à partir de 24.99$ par mois pour 20 connexions et 800 jours de rétention. Serveurs aux Etats-Unis et en Europe (noeud en Allemagne d’après un traceroute).
Hitnews : venu des Pays-Bas, tous les forfaits d’Hitnews sont illimités et proposent le SSL. On payera donc en fonction de la vitesse de téléchargement et du nombre de connexions. De 2.95€ pour le premier forfait à 9.95€ pour le plus gros sur un mois, cela reste très raisonnable. Un discount est prévu si vous prenez plusieurs mois d’un coup. Gros avantage d’Hitnews : en plus du SSL et de l’illimité sur tous les forfaits, il est possible de partager son compte à plusieurs, de quoi faire des économies. Ceci ne figure plus sur leur site mais fonctionne toujours, il faudra juste veiller à se partager les connexions. 330 jours de rétention pour l’instant.
Mais aussi :
AstraWeb : une offre illimité à 11$ par mois. C’est un des gros des NewsGroups comme Giganews, aucun souci à se faire de ce côté là malgré l’austérité de leur site. Les serveurs sont aux Etats-Unis et en Europe, le SSL est compris, la durée de rétention approche de 800 jours.
XLned : très proche de Hitnews au niveau des tarifs et des prestations. XLned est lui aussi situé aux Pays-Bas, l’autre pays du piratage de la liberté.
Il existe quelques serveurs de NewsGroup gratuits mais ce n’est pas toujours très efficace ni très simple à utiliser (IPV6 obligatoire en général). De même, chez Free il est possible d’accéder à certains NewsGroups, mais la plupart des groupes binaires sont censurés.

Trouver un fichier sur les NewsGroups : annuaires et moteurs

Il y a tellement de fichiers qui passent sur les NewsGroups qu’il est difficile de trouver ce que l’on cherche en se promenant simplement de groupe en groupe. La bonne méthode consistera plutôt à passer par des sites spécialisés comme les annuaires de NewsGroupsou les moteurs de recherche NewsGroups.

Annuaires de NewsGroups

Pour les annuaires, pas la peine de tortiller, le plus populaire est Binnewz, ce site en français existe depuis des années et ne nécessite pas d’inscription. Vous pourrez aussi utiliser ng4you si vous êtes allergique à Binnewz France (arf, payant maintenant, pas bien!).
Binnewz publie une liste sélectionnée de fichiers binaires publiés sur les Newsgroups et classés par catégorie :
Une fois une recherche effectuée, vous trouverez l’information sur votre fichier sous la forme suivante :
La colonne « Titre » contient le nom du fichier que vous recherchez. Vous verrez ensuite une colonne « Newsgroup » qui indique dans quel groupe a été publié le fichier, vous pourriez en avoir besoin dans la suite pour éviter les éventuels fakes ou les fichiers protégés par mot de passe. Ici « abci » fait référence à alt.binaries.cd.image, il est possible de voir le nom du groupe en cliquant sur celui-ci.
La colonne la plus importante est « Fichier », elle contient le nom utilisé pour publier le fichier sur les newsgroups. C’est grâce à ce nom exact que vous pourrez trouver votre bonheur.
N’oubliez pas de lire l’éventuel fichier NFO qui peut contenir des informations utiles et aussi de lire les commentaires. Un petit merci ne fait pas de mal non plus.

Moteur de recherche NewsGroups

Une fois le nom du fichier repéré, il reste à lancer le téléchargement. Pour cela vous pourriez effectuer une recherche avec votre logiciel de NewsGroups et télécharger les parties nécessaires une par une. Mais dans ce cas votre logiciel (s’il ne dispose pas d’un moteur de recherche intégré et connecté à un site externe) devra mettre à jour le groupe qui vous intéresse et télécharger les entêtes de tous les messages du newsgroup. Ce processus peut être très long pour les groupes les plus importants.
Il y a heureusement plus simple et plus pratique : les moteurs de recherche Newsgroups qui permettent de rechercher les fichiers et détecter automatiquement lorsque ceux-ci sont découpés en plusieurs parties. Le moteur se charge alors de regrouper toutes les parties au sein d’une collection unique : c’est le fichier portant l’extension .nzb.
Le nzb est un fichier au format XML contenant l’identifiant de tous les messages à télécharger.
Voici les moteurs les plus connus qui proposent de télécharger des fichiers nzb :
D’autres existent comme homie.in qui est moins complet ou NewzLeech. Les deux premiers cités devraient vous suffire.
Prenons l’exemple d’une recherche sur binsearch, cette recherche doit correspondre au nom trouvé dans la colonne « Fichier » comme vu ci-dessus :
Libre à vous de rechercher directement un nom de fichier ici bien entendu, mais vous n’aurez pas de garantie quant à la qualité du fichier trouvé (le plus gros risque est qu’il s’agisse d’une archive protégée par mot de passe).
Il faudra vérifier dans la colonne « Age » que le fichier n’est pas trop vieux en fonction de la rétention de votre serveur.
En cliquant sur le bouton « Create NZB » vous obtiendrez le précieux fichier NZB qui vous servira dans la suite.
Petite remarque : si vous utilisez un navigateur supportant les scripts du type UserScripts(comme Firefox avec l’extension GreaseMonkey), ce script vous permettra d’ajouter directement des liens pour les moteurs de recherche depuis Binnewz :http://userscripts.org/scripts/show/13851.

Les logiciels pour télécharger sur les NewsGroups

Sur Windows, le logiciel le plus utilisé est Grabit : il est gratuit et fait ce qu’on lui demande, il lui arrive parfois de planter mais rien de bien grave, il suffit de relancer la bête.
Pour Mac OS X, un bon logiciel est Unison 2 de Panic, qui est malheureusement payant. Oui, tout est plus cher dans le monde Apple.
Sous Linux, et Ubuntu par exemple, vous pourrez tester au choix KlibidoPanSABnzbd+ou HellaNZB et son interface graphique LottaNZB.
Je vous laisse les commentaires pour donner votre client de NewsGroups préféré sous Linux, Mac ou Windows.
Prenons l’exemple d’un téléchargement avec Grabit :
Vous pouvez le télécharger en cliquant sur « Free Download ». Une fois l’installeur lancé, l’assistant de configuration vous demandera d’entrer le nom de domaine de votre serveur de Newsgroups. Vous trouverez ces informations sur le site de votre fournisseur.
Par exemple pour Hitnews : ssl.hitnews.eu
Pour Giganews : news.giganews.com (Amérique du Nord) ou news-europe.giganews.com(Europe)
Vous entrez ensuite votre login/mot de passe fournit à l’inscription :
Sans oublier de cocher la case indiquant d’associer Grabit avec les fichiers NZB :
La fenêtre du programme s’affiche. Sur la gauche vous pourrez retrouver votre serveur :
Un clic droit permet d’afficher les détails :
Dans Server properties, pensez à cocher absolument la case « Encrypted server connection (SSL) » pour chiffrer tous les échanges entre vous et votre serveur de newsgroups, c’est-à-dire en général entre votre PC et le serveur de votre fournisseur étranger. Votre Fournisseur d’Accès à Internet ne verra passer que des paquets chiffrés dont il ne pourra pas lire le contenu.
Le fait d’activer cette option fait passer la connexion automatiquement sur le port 563, port par défaut pour les NewsGroups SSL :
Au passage, réglez le nombre de connexions à la valeur du maximum autorisé par votre forfait :
Dernière chose, si la fenêtre suivante s’affiche en cliquant sur un fichier NZB, il vous suffira de chercher Grabit dans Program Files et de cocher « Toujours utiliser ce programme pour ouvrir ce type de fichiers » :
Il ne reste plus qu’à cliquer sur le fichier NZB précédemment téléchargé et le téléchargement commencera :
Une fois le téléchargement terminé, Grabit vérifiera les fichiers téléchargés et décompressera automatiquement le fichier obtenu s’il s’agit d’une archive (.rar par exemple).

Vérifier et décompresser les fichiers

En téléchargeant un fichier sur les NewsGroups, vous rencontrerez souvent des fichiers nommés .PAR ou .PAR2. Ce sont des fichiers de parité permettant de repérer et de corriger les erreurs dans les téléchargements.
Pour cela, il vous faudra un logiciel. Sur Windows, c’est QuickPar qui s’occupera du travail :
Il suffit de cliquer sur le premier fichier .par2 pour lancer la vérification. En cas d’erreur, le bouton « Repair » permet de réparer le fichier. Pour cela il faut avoir téléchargé suffisamment de parties, et suffisamment de volumes de récupération .PAR2.
Si vous faites la réparation manuellement, il vous faudra ensuite extraire le fichier qui est souvent au format .rar. Pour cela, le logiciel WinRAR sera le plus adapté, mais 7zip est open-source et supporte correctement le format rar, donc c’est plus mieux ;) . Pour une archive en plusieurs parties, il faut cliquer sur la première archive du fichier : c’est le .rar, ou .r00 ou .000.

Récapitulatif

Pour résumer, un téléchargement standard sur les newsgroups se passera en général comme ceci :
  • Recherche d’un fichier sur Binnewz,
  • On repère la colonne « Fichier » pour lancer la recherche sur Binsearch ou NZBIndex,
  • On enregistre le fichier NZB,
  • On ouvre le fichier NZB qui lance le téléchargement dans son lecteur de news commeGrabit,
  • On profite du fichier s’il n’y a pas d’erreur ou on recherche des .PAR2 supplémentaires sur Binsearch pour réparer manuellement son fichier avec QuickPar et ensuite le décompresser avec 7zip ou WinRAR.
Une alternative consiste à opter pour un logiciel de Newsgroup payant intégrant un moteur de recherche permettant d’effectuer toutes ces étapes sans quitter le logiciel.
Voilà, maintenant vous savez tout sur les newsgroups. Ah oui, sauf peut-être la première règle sur les NewsGroups : on ne parle pas des NewsGroups.
Oui je sais, j’ai échoué ;)
PS : ceci n’est pas une incitation au piratage, mais seulement un moyen d’échanger des contenus sans se sentir espionner. En souscrivant à une offre de NewsGroups, vous vous engagez de toutes façons à travers les conditions générales à ne pas télécharger de contenus illicites ou protégés par droits d’auteur.

Antelink : Une startup française à la conquête du marché logiciel global


La jeune startup française Antelink révèle après un an de sa création son nouveau produit : Release Cooker, un outil destiné aux équipes de développeurs. Il a pour but de simplifier les tâches qui interviennent pendant le cycle final de la fabrication d’un logiciel et permettre la traçabilité des composants d’un même programme.
Release Cooker n’est pas un nième logiciel de gestion, c’est un outil innovant qui s’adresse principalement aux entreprises qui développent des logiciels et qui cherchent à optimiser le processus de développement et d’intégration. C’est une application qui vient compléter les fonctionnalités des infrastructures de production logicielles déjà existantes.
Antelink commercialisera très prochainement cette application qui est accessible pour l’instant entest sur le site. Oui, c’est un logiciel éditeur bien que la startup cultive un contenu très intéressant s’adressant à la communauté Open Source. L’entreprise a développé un outil Antelink Communityqui permet d’évaluer un composant Open Source et comparer son utilisation par rapport aux données disponibles. La startup compte actuellement la plus grande base de données OpenSource ce qui permet de donner une appréciation assez juste du nombre d’utilisations de chaque composant.
Cet activisme OpenSource et la production d’un logiciel éditeur peuvent paraître incompatibles au premier abord mais les projets OpenSource peuvent être utilisés de différentes manières et sur une fabrication logicielle le code produit n’est pas entièrement OpenSource ni entièrement propriétaire. Les produits proposés par Antelink permettent d’identifier ces composants, les évaluer et les intégrer de manière efficiente.
Le business modèle de l’entreprise peut être comparable à celui d’Atlassian la société australienne éditrice de FishEye et distributrice de Confluence qui allie efficacement logiciels éditeurs et contenus OpenSource.
La startup a été crée en Octobre 2009 par deux prometteurs de l’OpenSource et des méthodes agiles, elle a été soutenue par l’INRIA et a réussi le déploiement de 3 pilotes chez des éditeurs français de logiciels avant de développer un produit fini qui est actuellement disponible en test. La base de donnée Antelink Community devrait être accessible au public au courant de l’année 2011 selon ses fondateurs.