Библиотека Конгресса продолжает попытки архивировать все твиты за 2006-2012 годы

в 7:52, , рубрики: twitter, Поисковые машины и технологии, метки:

Два года назад директор по коммуникациям Библиотеки Конгресса США объявил о плане сделать архив всего Твиттера, начиная с марта 2006 года. Уже в то время (март 2010-го) это был очень большой объём: тогда в твиттере публиковалось 55 миллионов сообщений в день, а общий размер базы с момента основания сайта измерялся в терабайтах.

Но то были лишь цветочки. К лету 2012-го года трафик в Твиттере вырос до 400 млн сообщений в сутки, а Библиотека Конгресса так и не запустила обещанный архив с полнотекстовым поиском. В связи с этим кое-кто начал сомневаться, что задача по силам библиотекарям. На прошлой неделе появились слухи, что они втихую отказались от амбициозного проекта. На самом деле это не так.

Журналисты Nieman Journalism Lab взяли интервью у Дженнифер Гэвин (Jennifer Gavin), которая возглавляет проект по архивированию Твиттера в Библиотеке Конгресса США. Она уверяет, что планы остаются в силе, просто «хороший библиотекарь никогда не спешит», то есть они не собираются предоставлять свой сервис в том же темпе, в котором работает Твиттер.

Конечно, задача оказалась гораздо сложнее технически, чем представлялось поначалу. «Процесс разработки технических спецификаций по-прежнему продолжается, но мы уже гораздо ближе к его завершению, — сказала Гэвин. — Я не могу сообщить конкретную дату, когда мы будем готовы объявить об этом официально». Сейчас определяются критерии, как осуществлять сортировку исходных данных: по ключевым словам, по времени и т.д. Разработчики до сих пор не определились, каким должен быть пользовательский интерфейс системы.

«В прошлом году мы начали частично получать материал от компании Twitter. Теперь мы получаем его почти ежедневно. Это очень большие объёмы данных», — говорит Гэвин. При этом действует шестимесячное эмбарго на архивацию свежих твитов. По условиям соглашения с компанией, создаваемая база данных должна быть доступна только для некоммерческого внутрибиблиотечного использования и сохранения. Система будет доступна только для зарегистрированных посетителей библиотеки по библиотечным карточкам.

Автор: alizar

* - обязательные к заполнению поля