| Организация хранения | ||
| Более полный поиск по теме Вашего запроса (наберите его в окне поиска) | ||
13 июня 2006 г. – «Корпорация ЮНИ», корпорация IBM и
Федеральное государственное унитарное научно-производственное предприятия «Аэрогеология»
объявляют о реализации проекта по разработке и созданию системы архивирования
электронных документов с конечным объемом 330 ТБ для обеспечения хранения и
оперативного доступа к уникальным данным по дистанционному зондированию Земли.
ФГУ НПП «Аэрогеология» является ведущей организацией в системе Министерства
природных ресурсов РФ по разработке и использованию космоаэрометодов для
геологических
исследований. Одним из результатов исследовательской работы предприятия является
обширный
фонд ретроспективных аэро- и космических фотоснимков, данных дистанционного
зондирования
Земли, созданный на базе фотоархива 1948-1995 годов.
«Материалы фотоархива имеют важнейшее государственное значение. Их сохранение
является одной из ключевых задач предприятия. Как известно процессы
раскристаллизации
желатиновой основы фото- и киноматериалов ведут к их безвозвратной утере. Кроме
того,
необходимость использования автоматизированных методов обработки информации
потребовала
перевода материалов фотоархива в электронный цифровой формат. Поскольку конечный
объем
хранения составляет порядка 330 ТБ, Федеральным Агентством по недропользованию
было принято
решение о создании программно-аппаратного комплекса для хранения электронного
архива
фотоснимков и исследовательских данных предприятия ФГУ НПП », - отметил Маилянц
В.К.,
генеральный директор ФГУНПП «Аэрогеология»
В результате совместной работы специалистов «Корпорации ЮНИ» и IBM была
спроектирована система архивирования электронных документов с использованием
технологий
управления свободным дисковым пространством и иерархического хранения данных в
архиве. При
разработке проекта была оптимизирована стоимость хранения данных на различных
носителях
информации с различной удельной стоимостью хранения и различной скоростью
доступа.
Система хранения была реализована на основе UNIX-серверов IBM pSeries 550 под
управлением ОС AIX 5L и двух типов носителей данных: с оперативным доступом -
массивов IBM
TotalStorage DS4300 и с доступом по требованию - ленточной библиотекой IBM
TotalStorage 3584.
Серверы, система хранения и ленточная библиотека объединены в единую сеть
хранения данных
(SAN) посредством двух FC-коммутаторов IBM TotalStorage SAN-switch. Используемое
программное
обеспечение: IBM Tivoli Storage Manager и компонента IBM Tivoli Storage Manager
for Space
Management, реализующая технологию управления свободным дисковым пространством с
помощью
клиента иерархического хранения данных (Hierarchical Storage Manager client –
HSM).
«Сегодня большинство заказчиков рассматривают и внедряют технологии систем
хранения
IBM, сталкиваясь с растущими требованиями к сбору и хранению данных. Решение,
разработанное
для научно-производственного предприятия «Аэрология» на базе технологий IBM
поможет
эффективно обслуживать увеличивающиеся потоки данных и обеспечит их
безопасность. Мы
гордимся фактом своего участия в столь значимом проекте по созданию цифрового
архива по
сохранению данных государственного значения на основе инновационных технологии
IBM», – сказал
Виктор Смирнов, менеджер отдела по продажам систем хранения данных, IBM EE/A.
Разработанная и созданная система хранения является программно-аппаратным
комплексом,
который должен обеспечить надежное хранение и безопасность накопленных данных,
предоставляя к
ним быстрый доступ, разграничивая его по уровням доступа для данных и
пользователей. Из-за
разного статуса секретности данных были созданы две полностью независимые
системы и, в целях
обеспечения возможностей восстановления после катастроф, хранение резервных
копий данных
предполагается осуществлять на удаленной технологической площадке. Также система
обеспечивает
прямой контроль древовидной структуры архива без вмешательства администраторов
системы и
«прозрачный» (не зависящий от места хранения и способа записи) доступ
пользователей к данным,
хранящимся в архиве. Кроме того, возможность обзора структуры хранимых данных и
выполнение
операций по помещению в архив и извлечению из него осуществляется штатными
средствами
операционной системы.
Подводя итоги проекта, В.К. Маилянц подчеркнул, что «поставленные задачи были
выполнены «Корпорацией ЮНИ» на высоком профессиональном уровне при продуктивном
взаимодействии со специалистами IBM. При разработке и реализации проекта
специалисты «ЮНИ»
продемонстрировали опыт и знание технологических особенностей создания систем
хранения
данных».
ФГУ НПП «Аэрогеология» основано в 1944 году и является ведущей организацией в
системе Министерства природных
ресурсов РФ по разработке и использованию космоаэрометодов для геологических
исследований. Ключевым направлением
деятельности ФГУ НПП «Аэрогеология» является геологическая съемка и подготовка к
изданию геологических карт различного
масштаба, многопрофильные геоэкологические исследования,
информационно-аналитические исследования; прогнозно-поисковые и поисково-оценочные геологические работы.
«Корпорация ЮНИ» работает на рынке информационных и
телекоммуникационных технологий с 1991г. и
является одним из ведущих российских системных интеграторов. Партнерские
отношения с более чем 70 лидерами мировой
IT-индустрии позволяют Корпорации представлять на рынках России и СНГ обширный
спектр высокотехнологичных решений,
оборудования и программного обеспечения для построения информационных и
телекоммуникационных систем широкой
функциональности и масштаба. За годы работы специалистами компании выполнены
сотни отраслевых проектов в интересах
крупнейших заказчиков. В составе Корпорации действуют Технический и Сервисный
центры, техническая
лаборатория, Центр компетенции по информационной безопасности, Учебный центр.
|
В дополнение к теме: |
Проект "Российские архивы онлайн" (РАО): состояние и перспективы развития
(По сборнику докладов на конференции "EVA 2001 Москва"). Авторы - Бухштаб Ю. А., Евтеева Н. Н. (Институт прикладной математики им. М. В. Келдыша РАН)Основной целью проекта является создание и представление в Интернет объемных баз данных, содержащих описания материалов аудиовизуальных коллекций российских архивов. Этот проект направлен на обеспечение доступа к архивным материалам многочисленных пользователей в России и во всем мире. Хотя хранилища многих Российских архивов хорошо организованы на основе традиционных, "докомпьютерных" методов, их материалами можно воспользоваться только после длительных исследовательских усилий непосредственно в архивах при помощи карточек бумажных каталогов, написанных вручную или напечатанных на машинке. Даже в России не все знают о богатых аудиовизуальных коллекциях архивов, поэтому потенциальные возможности использования хранящихся в них материалов только начинают реализовываться.
Важным направлением деятельности, осуществляемой в рамках проекта, является создание образовательных ресурсов в Интернет (в частности, связанных с историей России), базирующихся на коллекциях этих архивов. Кроме того, составной частью проекта является организация электронной коммерции: платного предоставления архивами прав на использование копий их аудиовизуальных материалов, отобранных на основе создаваемых баз данных. Предполагается, что вырученные средства будут направляться (и это уже происходит) на цели обеспечения сохранности коллекций.
Хотя название «Российские архивы онлайн» появилось немногим более года назад, фактически работы по проекту были начаты еще в 1996 году, когда было принято решение о создании электронного каталога Российского государственного архива кинофотодокументов в Красногорске (РГАКФД). Этот архив представляет собой самое крупное хранилище документальных фильмов и фотографий, отражающих историю России и советских республик. В Красногорском архиве хранятся более 215 тысяч коробок с фильмами: свыше 38 тысяч названий; более 1 тыс. относятся к дореволюционному периоду. Архив располагает также более чем 1 миллионом фотографий и негативов, в том числе уникальными альбомами царской семьи. Красногорская коллекция, представляющая собой иллюстрированную историю России с середины прошлого века, вызывает интерес не только у кинодокументалистов и представителей средств массовой информации во всем мире. но и является важнейшим источником получения материалов при проведении научных исследований, в первую очередь исторических.
К настоящему моменту в базе данных электронного каталога Красногорского архива содержатся описания большей части его коллекции фильмов (25 000 описаний). Каталог доступен в Интернет. Работы по созданию этого каталога продолжаются, и через год в базе данных будут содержаться описания всей коллекции фильмов. В этом году также были начаты работы по созданию англоязычной версии электронного каталога, а именно: была разработана и опробована методология использования системы машинного перевода Sуstrаn Рrоfessiоnаl с последующим редактированием текстов для создания базы данных электронного каталога, содержащей описания фильмов из коллекции РГАКФД на английском языке. Осуществлен перевод 3000 описаний, и они размещены в Интернет. Анализ полученных результатов показал, что использование такой методологии для перевода объемной базы данных на английский язык даст приемлемый с точки зрения качества результат при сравнительно низкой стоимости работ. Предполагается, что весь электронный каталог фильмов из Красногорска будет таким способом переведен на английский язык.
Кроме каталога Красногорского архива в рамках проекта к настоящему моменту созданы и размещены в Интернет еще два каталога, которые представляют коллекцию Российского государственного архива научно-технической документации (РГАНТД). В этом архиве хранится большое количество уникальных фотографий и фильмов, отражающих историю становления и развития космонавтики и ракeтно-космической техники. В рамках проекта создан каталог, включающий 3000 наиболее интересных фотографий и их описания из коллекции этого архива. Этот каталог размещен в Интернет.
Также создан и размещен в Интернет электронный каталог, содержащий описания документальных фильмов, посвященных освоению космоса из коллекции Российского государственного архива научно-технической документации. Естественно, что первоочередной целью разработчиков проекта в тот момент, когда он был начат, стал выбор адекватного поставленным целям программного обеспечения. Прежде всего, следует отметить, что выбор организации такого обеспечения определялся необходимостью реализовать поиск не только на основе внешней классификации документов, но и по их содержанию. Как известно, адекватной методологией для решения такой задачи является использование механизмов полнотекстного поиска на базе автоматического индексирования.
Первая пилотная версия электронного каталога Красногорского архива была разработана на базе полнотекстной СУБД, разработанной американской фирмой Реrsonal Library Software. Следует отметить, что понадобились значительные усилия программистов - участников проекта для того, чтобы русифицировать эту СУБД, так как использование русского языка не было предусмотрено ее разработчиками. Однако в дальнейшем от использования этой СУБД пришлось отказаться по причинам сложности распространения каталога на СD (требовалась предварительная инсталляция СУБД на компьютере пользователя и ее настройка). Кроме того, версия этой СУБД, предназначенная для работы в Интернет, в тот момент стоила очень дорого. Первая практически эксплуатируемая версия электронного каталога кинодокументов из Красногорска была создана на базе Мiсrоsоft Ассess. Для того, чтобы использовать эту СУБД в проекте, была написана программа, реализующая на ее базе адекватный полнотскстный поиск. Однако быстродействие этой СУБД в таком «чужом» для неё режиме не полностью устраивало разработчиков проекта.
В свете этих обстоятельств было принято решение разработать новую полнотекстную СУБД, которая была бы ориентирована на класс решаемых задач, позволяя пользователям работать с каталогами на СD без предварительной инсталляции, и могла функционировать в Интернет используя серверы на различных платформах. Последние два года все разработки, осуществляемые в рамках проекта «Российские архивы онлайн», используют эту СУБД, и опыт её эксплуатации показал, что она весьма эффективна при решении задач, связанных с организацией различных электронных каталогов. Разработанная СУБД, базирующаяся на структуре В-дерева, позволяет за секунды локализовать нужную информацию среди больших объемов данных. Поисковыми для нее являются все слова, встречающиеся в записях базы данных, за исключением тех полей, которые объявляются неиндексируемыми, и так называемых стоп-слов, модифицируемый список которых может быть задан для каждого приложения.
Для задания запросов используются логические комбинации слов, которые могут маскироваться. При этом в запрос могут быть включены имена полей, что дает возможность контролировать место в записи, где именно следует искать поисковые слова. Результаты поиска отображаются в виде, удобном для быстрого отбора наиболее релевантной информации, - в списке, где кратко представляются найденные записи (например, заголовки), а сами записи полностью могут быть просмотрены в специальном окне записей.
Рассматриваемая СУБД имеет еще одно удобное средство быстрой выборки релевантной информации - гипертекстовые ссылки, связывающие текст записи с разнородной информацией, имеющей отношение к данному тексту, - фотографией, виде или аудио клипом или внешней по отношению к СУБД программой.
Для заполнения информационных фондов целевых поисковых систем, построенных на базе рассматриваемой СУБД, разработан ряд утилит, обеспечивающих возможность использования текстов, представленных в различных форматах, в том числе в виде документов Microsoft Word и записей Мicrosoft Aссess. Кроме того, разработан специализированный редактор, позволяющий вводить тексты непосредственно в базу данных и модифицировать их.
Важной часть осуществляемых в рамках настоящего проекта работ являются исследования в области разработки систем содержательного поиска видеоинформации. Дело в том, что неоднозначность соответствия между визуальным содержанием и текстовым описанием снижает показатели точности и полноты поиска. Кроме того, приемлемые описания не могут быть созданы автоматически - предполагается участие человека, что существенно замедляет процесс пополнения базы данных.
Технология доступа к коллекциям изображений и видеофильмов по визуальному содержанию реализуется на базе сопоставления им набора визуальных примитивов (характеристик цвета, формы, текстуры, а для видео еще и параметров движения сцены и объектов) и определением количественной оценки близости изображений по значениям примитивов. Таким образом, визуальные примитивы – это характеристики изображения, которые автоматически вычисляются по оцифрованным визуальным данным, позволяют эффективно индексировать их и обрабатывать запросы с использованием визуальных свойств изображения. Поисковый образ изображения, сгенерированный из визуальных примитивов, невелик по размеру в сравнении с самим изображением и удобен для организации поиска. Вычисление подобия изображений заменяет принятую в традиционных СУБД операцию установления соответствия запросу.
Проведенные в рамках проекта исследования были направлены на разработку и реализацию методов анализа, индексирования и поиска изображений и видеоданных на основании визуальных атрибутов. В ходе этих работ были разработаны следующие методы:
- количественной оценки близости статичных изображений по их цветовым гистограммам с использованием техники квадродеревьев;
- выделение границ объектов изображения на основании анализа значений пространственных производных интенсивности, вычисленных в каждой точке изображения;
- измерения текстуры с использованием функций Габора;
- временного сегментирования видеофильма, основанного на сравнении цветовых гистограмм соседних кадров;
- индексирования видеофрагментов с использованием алгоритмов анализа статичных изображений;
- вычисления оптического потока с использованием дифференциальной техники;
- выделения движущихся объектов, а также определения их размеров, расположения и типа движения на основе анализа поля вектора скорости;
- многоуровневая классификация видеофрагментов по типу движения, в частности распознавание характерных функций камеры (приближение, удаление, сдвиг);
- распознавания некоторых классов объектов с помощью нейронной сети.
Предполагается, что первое практическое применение результатов этих исследований будет связано с решением задачи автоматического выделения информативных стоп-кадров. Соответствующие алгоритмы могут основываться на анализе сравнительно простых вычислимых свойств видеоряда, таких как количество однородных кадров, смена планов и т. д. Следует отметить, что возможность выделения стоп-кадров с помощью компьютера позволит автоматизировать работу квалифицированного персонала, требующую значительных затрат времени.
* * *
Комментарий редакции портала: вышеописанные технологии и методы, внедряемые в аудиовизуальных архивах, имеют важное значение при использовании материалов таких архивов в целях обучения робототехнических систем (см. книги серии "Роботы и частное право")
|
Ретроспектива: |
«ТелеШоу-Осень'98» как информационный двигатель
телевидеоиндустрии России и СНГ. (Продолжение. Начало см. в №№ 1 и 8, 1998 г.)
Марафон под названием «Теле Шоу» продолжился 25-27 ноября. И снова в этом
Московском Международном телерынке приняли участие известные поставщики видеопродукции, подключились и
поставщики-дебютанты. За полгода,
минувшие со времени весеннего «Теле Шоу», количество предлагаемых к продаже
телепрограмм и кинофильмов существенно выросло и, соответственно, выросло число информационных проектов,
помогающих ориентироваться на рынке
поставщиков и потребителей видеопродукции. Назовем примеры таких проектов из
числа заявленных в программе
презентаций « ТелеШоу», анонсировавшихся на стендах участников, а также
содержащихся в информационных материалах, которые гости мероприятия приносили на стенд нашего журнала.
• Официальный справочник «Телевидение и радио России». Содержит полную информацию, касающуюся отрасли
телерадиоиндустрии по каждому региону России: комиссии
по вещанию ФСТР РФ, телевизионные компании, радиовещательные компании, ОРТПЦ и операторы связи; указаны
контактные телефоны, почтовые адреса и т.д.
• «Кто есть кто и что есть что в российском ТВ-98» — ежегодный справочник и информационная база на
CD.
• Справочно-информационная база «Все «Новости дня»:
1925-1990», сопровождаемая монтажными листами.
• Reed Midem Organization — виртуальный телерынок в
среде Интернет.
• Учебно-практическое пособие «Аудиовизуальный бизнес. Договорное регулирование».
• Интернет-узел «Телевидение и радиовещание России»;
содержит реестр вещательных организаций, документы по
сертификации оборудования и т.д.
• Информационно-аналитический бюллетень «Независимые медиа-измерения» — сведения по телеаудитории, рейтингам, рекламе и пр.
• «Русмедиа» — многоцелевая телекоммуникационная система для решения разнообразных задач информационного
обеспечения СМИ.
• «Деловой экран» — газета для профессионалов телевидения и кинематографа.
• «Вестник Медиа» — последние события в мире телевидения, радио, прессы, рекламы.
Кроме того, большой информационный потенциал несли
проходившие в рамках «ТелеШоу» специализированные семинары-конференции на темы: «Борьба с пиратством в области телерадиовещания», «Освещение в СМИ общенациональной программы «Экологически чистые регионы», «Новые тенденции на рынке региональной рекламы». Особо следует
выделить семинар-конференцию «Взаимодействие СМИ и
общественно-политических движений и органов власти в период подготовки и проведения в стране думских и президентских выборов на примере опыта работы Российской общественной организации «Женщины для будущего России» и
«Российской партии защиты женщин».
Это событие — одно из немногих официальных проявлений такого набирающего силу процесса, как интеграция российских феминистских организаций в сфере экранных технологий: данный процесс в скором будущем станет оказывать
огромное влияние на перераспределение финансовых потоков в названной сфере (см. ТКТ. 1998. № 11).
А. Барсуков, журнал "ТКТ", № 1, 1999 г.
(через эту ссылку можно бесплатно скачать справочник,
авторские материалы которого разрешено использовать для написания таких работ,
как сочинение, доклад, реферат, курсовая работа, дипломная работа,
бакалаврская / магистерская работа, диссертация)
|
Аннотация к трилогии «Роботы и частное право»: |
Первяя части трилогии «Роботы и частное право» («Рабство»)
являет собой очередной выпуск справочника «Кто есть кто в робототехнике». Книга
посвящена инструментарию, расширяющему путём роботизации возможности оказания
услуг. Сферы обслуживания, досуга, питания, охраны и многие другие, имеющие
непосредственное отношение к человеку, переживают кризис. Ряд статей Уголовного
кодекса РФ предусматривает наказание за ненадлежащее оказание услуг, но
множество конфликтов межличностного характера между поставщиками и потребителями
услуг способны устранить только роботы, оснащенные узкоспециализированными (по
каждой сфере жизни и деятельности человека) компонентами искусственного
интеллекта.
Однако, роботизация упомянутых сфер, решив одни проблемы, принесёт новые, более
серьёзные проблемы – в обществе, в трудовых коллективах, в семьях. Разрушатся
устоявшиеся традиции и связи. Появятся новые категории безработных – уже среди
представителей среднего класса, а не только среди малоквалифицированных рабочих,
которых, на сборочных конвейерах, например, вытесняют роботы первых поколений.
Таким образом, книга полезна как пособие по профориентации, полезна юристам,
изучающим новые тенденции в сфере трудовых отношений, парламентариям, работающим
над законодательством о труде и о частном праве, профсоюзам для разрешения
принципиально новых трудовых конфликтов. Наконец, сориентирует программистов,
разрабатывающих интеллектуальное программное обеспечение. Книга предназначена и
для западных рынков, учитывая, что описываемые проблемы – там уже реальность.
Сюжеты книги сопровождаются историческими и современными примерами, цитатами,
оформлены иллюстрациями, что делает её увлекательным произведением искусства.