Знакомство с "курсом дизайна сетей ЦОД"

Что: 15648261d6aa475cd924c162d7bee9407280c2c7

Когда: 2024-08-03 15:09:51+03:00

Темы: bgp

Знакомство с "курсом дизайна сетей ЦОД"

https://otus.ru/lessons/network_design/
Наш кадровик, с кем не мало пообщался на днях
(b9213c9adc216169c73fa3e0e2feb79b3b6d1e5e), предложил/посоветовал
подумать о курсах для саморазвития какого-нибудь. Вообще у нас ежегодно
собираются списки кто где хочет чему поучиться и ему могут оплатить это.
Но, предполагая, что это может пригодится на работе. Единственные курсы
о которых я в теории думал, так это что-то про сети уровня ЦОДов. Но их
даже не искал, ибо... ну я и ленив и не работе это не пригодится, ибо у
нас не бывает задач где хоть сколько-то сложные сетевые решения
приходится проектировать или применять.

Но тут всё же решил углубиться в эту тему. Вообще ничего нигде не нашёл,
кроме как вот курс на otus.ru, который прям так и называется "дизайн
сетей ЦОД". И на все темы у них уже есть выложенные на YouTube
лекции/семинары. Сети и вообще тема связи меня люто интересует, но вот
притрагиваться к ужасающим (с моей, программерской, точки зрения)
интерфейсам всяких Cisco/Juniper/whatever решений проприетарных не
хочется ни сколько. Но я прекрасно понимаю, что просто на обычных
серверах и не выжать то, на что способны эти специализированные решения,
да и не дешёвое удовольствие. Это главная причина почему не рвался к
курсам. Ну а другая сейчас -- то, что их вроде толком нигде невозможно
пройти без установки различного проприетарного ПО, что идёт лесом.

В общем, посмотрел вот абсолютно все их лекции по этому курсу.

Ещё до них, я задавался вопросом "а зачем нужен тот же MPLS?". Которого
в FreeBSD например нет вообще, в OpenBSD недавно добавили. Я безусловно
получал массу примеров где и как это используется, но всегда недоумевал:
"неужели просто другим дизайном сети нельзя обойтись без этого?". В этом
курсе лекций было много и про VxLAN. И про него у меня аналогичные
вопросы и не понимания чем решаемые им задачи кардинально отличаются от
заявленных для MPLS. Так же как и вообще вся тема с адом связанным с
L2-related технологиями.

Я был убеждён, что кучу задач/проблем можно бы было решить просто
маршрутизацией. И конечно же IPv6, где нигде не приходится ютиться в
узком адресном пространстве. Да, понимаю когда клиент просто ставит
перед фактом, что надо его текущую инфраструктуру соединить с чем-то
другим. Но я рассматриваю только случаи, когда ты сам делаешь свою
инфраструктуру и тебя никакой legacy или убогие ОС/софт не сковывают.

И просмотр курсов точно не прошёл даром. Ибо все эти профессиональные
сетевые инженеры и архитекторы прям открыто говорят что по сути весь
этот адов стэк технологий это нечто иное как сплошные костыли и
подпорки, вынужденные существовать из-за массы софта/клиентов, которые
ничего не хотят поменять. И много раз они повторяли про то, что в идеале
всё можно бы было сводить к простой банальной маршрутизации настроенной.
VxLAN, как я и предположил, это по сути некая очень удобная замена MPLS
для IP/L2 сетей, с которым удобнее работать из-за его UDP/IP природы.
То бишь, если что-то делается полностью без оглядки на legacy, то в
общем и целом никакие эти MPLS/VxLAN/STP и многое подобное просто нафиг
не нужно.

Смотрел также и за рамки выходящее выступление сотрудников из QRATOR,
рассказывающих про устройство Интернета, BGP и anycast тему. Очень
порадовался тому, что я ничего нового оттуда не узнал, ну кроме забавных
и любопытных фактов о самом неожиданном зоопарке всего что есть в Интернете.
А они там начали с того, что даже далеко не все сетевые ЦОД инженеры
вообще понимают как устроен Интернет и какие особенности в нём, о которых
они и будут рассказывать. Я в теме оказался.

Я не мало же ведь посмотрел видео про hyperscaler-ов, типа Яндекса и
Facebook. Где, как-раз, всё делается на IPv6 и существенно более
простыми методами, чем про рассказываемые в курсах (в том числе
Cisco-вских). И от L2 в этих ЦОДах избавляются нещадно, ибо, в том
числе, могут позволить и софт какой угодно ставить без проблем хоть на
каждый сервер. Руки развязаны, никакого legacy или обратной
совместимости не надо. На курсах otus.ru подчеркнули, что всё это так и
надо, всё зашибись, существенно проще, гибче, надёжнее. Но большинство
остальных вынуждены со старьём неизменяемым иметь дело, просто навсего.

Так же, как где-то (то ли Яндекс, то ли Сбер, то ли что-то такое очень
крупное) я видел про IP-IP overlay туннели поверх BGP-driven underlay,
на тот момент не понимая зачем "VPN" нужен в таких сетях. Но сейчас у
меня и дома аналогичное же устройство, сам додумался/дошёл до удобного
решения.

А вот больше деталей про hyperscaler-ов уже ни на каких курсах не
показывают. Их и не много и они же сами тут первопроходцы и у кого какие
придумки и задумки. Да и в целом у них больше головной боли о конкретно
топологии сетей (чистые сети Клоза же у них реже применяются), чтобы
минимизировать расстояния, кол-во кабелей/портов. Тогда как то, что
бегает по проводам уже сильно проще устроено чем в более простых ЦОДах.

Очень приятно, что моя голова всё это время делала логичные выводы и в
правильном направлении придумывала решения. Всё больше на своих местах в
ней.

Теперь надо бы начать побольше читать и погружаться в SRv6 тему:
https://www.segment-routing.net/

оставить комментарий

комментарий 0:

From: kmeaw
Date: 2024-08-03 23:42:22Z

> просто на обычных серверах и не выжать то, на что способны эти
> специализированные решения

Последнее время активно развивается VPP, позволяющий на обычных серверах
обрабатывать впечатляющее количество пакетов - современный сервер с
таким софтом может до терабита в секунду (400 Mpps) обработать:
https://fd.io/technology/

Процессоры становятся быстрее, а сетевые интерфейсы программируемыми -
https://en.wikipedia.org/wiki/P4_(programming_language)

комментарий 1:

From: Sergey Matveev
Date: 2024-08-04 07:01:35Z


>Последнее время активно развивается VPP [...]

А, это да, да. В одном блоге читал (читаю, так как время от времени
появляются новые посты) как на нём выжимают 100Gbps на
amd64-маршрутизаторе под GNU/Linux. Но вроде это пока не то чтобы
распространённая практика. Но тенденция и потенциал радуют.

Сгенерирован: SGBlog 0.34.0