Ильин Александр Технический директор MSK-IX kalend@msk-ix.ru Пиринговая платформа будущего Пиринг сейчас • MSK-IX перешагнул 1Tbit/sec (вступил в клуб «T») собрав свыше 370 участников у Московской точки обмена • Активное развитие региональных точек обмена MSK-IX 5 years • Падение цены транзита, рост популяции интернет проектов делает более выгодным обмен трафиком на более высоких скоростях • Рынок в ожидании выгодных ценовых 100G решений * telegeography.com * Тенденции развития IX • Повышение эффективности IX – рост распределенных контентпроектов. IX как инструмент раздачи контента • Активный рост межрегиональных игроков • Движение CDN в регионы • Развитие новых услуг и технологий (IPv6, Anycast DNS, NTP сервисов) • Повышение защищенности услуг и сервисов с помощью технологий защиты от атак • Внедрение гибких инструментов контроля за состоянием обмена трафиком Задачи IX будущего • Наличие надежной масштабируемой инфраструктуры: – Системы оптического уплотнения – Эффективное использование имеющихся каналов – Возможность быстрого наращивания емкости • Новый подход к сетевой архитектуре – Пересмотр имеющихся топологии сети – Выбор новых протоколов и решений • Новое оборудование, способное обеспечить – – – – Высокую плотность Масштабируемость Гибкость решения Развитие функционала Эффективность решений • • Рост затрат на оборудование (большая плотность, энергопотребление) • Падение цен на трафик и транзит Рост затрат на инфраструктуру (оптоволокно, WDM) * • Cнижение цен на 100G второго поколения может существенно улучить ситуацию Время с момента выхода на рынок * Brocade, Greg Hankins, Euro-IX forum Движение в сторону WDM Рост инфраструктуры: • Рост нагрузки на IX в отсутствии экономически выгодных 40/100G решений в масштабах города (до 80км) • Высокая стоимость аренды оптики для региональных проектов Приводит к необходимости: • Внедрения систем оптического уплотнения WDM. • Наращивания плотности line-rate 10G портов Сложности: • Высокая стоимость активных WDM решений, как следствие переход к более экономичным пассивным • Серьезные проблемы интеграции оптических WDM модулей с имеющимся оборудованием (совместимость, наличие встроенной DDMI диагностики, температурные особенности, более высокие требования по мощности из-за затухании на линии) • Необходимость резервирования с использованием разных трасс либо посредством оптических переключателей, либо посредством дублирующих систем WDM Выбор платформы WDM • Используется – MRV (активное оборудование) • Проводятся тесты пассивного оборудования – SNR – Modultech – ADVA – Transmode • Задачи тестов – совместимость вставок с оборудованием, конструктив мультиплексоров и системы в целом, возможность автоматического переключения • Планируется завершение к 3 кв. 2013 г. Возможные топологии кольцо Особенности: • • • • Кол-во узлов N Кол-во линий связи N Полоса пропускания магистрали: N*L Диаметр N/2 Возможные топологии двойное ядро Особенности: • • • • • • Кол-во узлов N Кол-во ядер 2 Кол-во линий связи 2N+1 Полоса пропускания магистрали: 2NL+L Диаметр 2 Отказоустойчивость по отношению к падению одного из ядер и одной из линий связи Возможные топологии несколько ядер Особенности: • • • • • • Кол-во узлов N Кол-во ядер С Кол-во линий связи C(N+1) Полоса пропускания магистрали: LC(N+1) Диаметр 2 Отказоустойчивость по отношению к падению С-1 из ядер и части линий связи Возможные топологии Full Mesh Особенности: • • • • • Кол-во узлов N Кол-во линий связи N*(N-1)/2 Полоса пропускания магистрали: LN*(N-1)/2 Диаметр 1 Отказоустойчивость по отношению к падению любого узла и части линий связи Экономия vs надежность IX? линии связи 40 35 30 25 20 15 10 5 0 Кольцо 2 ядра Full-mesh 4 5 6 7 узлы 8 9 Победитель двойное ядро Плюсы: • • • • • Гибкая масштабируемость Продублированная надежность Малый диаметр сети Экономичное использование линий связи Отказоустойчивость по отношению к падению одного из ядер и любой из линий связи Минусы: • • • Затраты на оптику Критичное расположение ядер Необходимость наличия оптики от каждого узла до каждого из ядер Выбор платформы IX будущего • Проведены тесты – Extreme X670, X670V, Black Diamond X8 (сентябрь 2012) – Arista 7050S-24, 7124S (июльсентябрь 2012) – Brocade MLX-4 (октябрь-декабрь 2012) – Juniper MX240 (октябрь-декабрь 2012) • Выбран Extreme в качестве платформы будущего IX Итоги тестов • • • • • • • • Идеального вендора не существует, все хороши! Arista, Brocade поддерживают хорошо знакомый CLI Часть вендоров используют собственные чипы, другие работают на Broadcom. Набор функционала отличается. Ошибки в ПО вендора дольше устраняются (задействуется больше людей) Активно изучались технологии TRILL, SPB, MLAG. Внимательно протестировали MLAG и убедились в работоспособности у Arista и Extreme. Проблемы с L2 фильтрами у некоторых вендоров. Требуется доработка. Имеются ограничения ресурсов для массового применения «сложных» фильтров. Не все поддерживают 1G оптику в 10G портах. Архитектура больших коммутаторов требует пристального внимания с целью защиты от возможных потерь Особое внимание уделяется модулям коммутаторов и возможность их работы без переподписки Будущее • • • MLAG – возможность уйти от STP и перейти к топологии «звезда». Достоинство – не требуется поддержка на всем оборудовании VPLS – возможное движение в сторону full-mesh топологии. Требуется поддержка всем оборудованием. Достоинство – независимость от потери «любого» элемента сети. OPENFLOW (SDN) – переход к автономной системе централизованного управления. Активно развивается, но имеются ряд ограничений на версиях ниже 1.3 Дальнейшие улучшения Контроль за качеством работы клиентских подключений: • • • CFM (Connectivity Fault Management) 802.3ag с помощью Ethernet OAM – проактивный мониторинг соединения, проверка на ошибки и изолирование ошибок на инфраструктуре. Требуется поддержка оборудованием по всей сети. BFD (Bidirectional Forwarding Detection) – RFC 5880-5885, быстрое определение нерабочего маршрута вне зависимости от таймеров протоколов (в нашем случае BGP Hello time). Существенно быстрое время сходимости. Требуется поддержка производителями оборудования и ПО Route Server. Cisco поддерживает BFD для BGP на основе 12.2SRE & 15.0M. Flowspec & Advanced Flowspec - RFC 5575, давно реализован и активно применяется в Juniper. Позволяет сигнализировать на удаленную сторону по BGP о возможных фильтрах. Эффективно для защиты от атак. Cisco планирует реализовать в 2014 на ASR9k/1k, Nexus 7k, возможно CRS, 6500/Sup2T, 7600. Пока стоит вопрос межвендорной совместимости. Спасибо. Вопросы? Александр Ильин Технический директор MSK-IX kalend@msk-ix.ru