«iAdmin», разработчик технологий веб-фильтрации, сообщает о выходе новой версии «iAdmin URL SDK» — решения, позволяющего интегрировать базу категорий, охватывающую все сайты в мире на домене второго уровня, в стороннее программное обеспечение для контентной фильтрации сайтов.

Основное отличие версии – новый режим работы, который не требует полной загрузки базы категорий в оперативную память. Эту версию можно использовать непосредственно на аппаратном устройстве с ограниченным объемом памяти. Данные о категориях будут кэшироваться в памяти с диска при первом обращении к конкретному сайту.

iAdmin URL SDK изначально проектировался для работы в потоках, которые непосредственно анализируют сетевой трафик\сетевые пакеты и в которых задержки критичны. SDK будет работать в несколько раз быстрее, чем любая СУБД или внешний сервис в облаке. А следовательно, будет требовать меньше ресурсов. Все вычисления, размещение в памяти и дисковые операции ввода вывода оптимизированы для задач категоризации ровно настолько, насколько это требуется! Для размещения кэша в памяти потребуется максимум 77 байт на один сайт. Например, при посещаемости в крупной компании в 3 млн уникальных сайтов в месяц потребуется 231 Мб физической памяти.

Проведены тесты производительности новой версии, которые вы можете производить самостоятельно.

Система Intel XEON E5-2420 1,9 Ггц, DDR3, SSD RAID 1 Система Intel XEON E5-2420 1,9 Ггц, DDR3, SSD RAID 1
100 тысяч сайтов1 поток4 потока
1й проход с подгрузкой кеша с дискаВремя 107 сек Скорость 1 мс\сайтВремя 38 сек Скорость 0,38 мс\сайт
2й проход, поиск только в памятиВремя 1,46 сек Скорость 14 мкс\сайтВремя 0,359 сек Скорость  3,6 мкс\сайт

SDK сможет работать в крупных сетях масштаба предприятия без существенных задержек.

Для высоконагруженных сервисов сохранен режим с полным кэшированием базы в память, однако он потребует для размещения 13 Гб.