マルチホーム事例 ~AS番号をもつ組織のマルチホーム~ 中村 素典 / 京都大学 1998.9.21
Contents 京都大学のマルチホーム事情の変遷 マルチホームにおける経路制御 まとめ・今後の課題 外向きの経路選択の方法 大学向きの経路の調整 まとめ・今後の課題
京都大学のマルチホーム事情の変遷 1989~1992頃 1993~1995頃 1996~1997 1998~ RIPの時代 地域ネットワークへ 1996~1997 BGPを本格的に利用 1998~ 商用ISPに接続
1989~1992頃 RIPの時代 トランジット 海外はWIDE経由 吉田キャンパス JAIN(~1994) WIDE 9.6K (1990.1~) 64K (1990.12~) 48K KUINS-I (1989~) GenomeNet/TISN 宇治キャンパス
1993~1995頃 KUIX設置 NCA5設立 BGPへ 学内はOSPFに 海外を SINET経由に NCA5 WIDE (1993~) トランジット停止 NCA5設立 地域学術ネット BGPへ RIPの破綻 学内はOSPFに ルータの導入 海外を SINET経由に WIDE SINET 192K (1993~) BGP KUIX (バリアセグメント) 吉田 GenomeNet/TISN 宇治
1996~1997 KUINS-II BGP4へ WIDE SINET ATM-LAN NCA5 KUINS-II (1996~) 吉田 約250台の交換機 世界最大規模!? BGP4へ WIDE SINET NCA5 1.5K (1995~) BGP4 BGP4 KUINS-II (1996~) 吉田 GenomeNet/TISN 宇治
1998~ 商用ISPに接続 KUIXを宇治へ 延長 総合情報メディア センター発足 SINET WIDE WCN NCA5 端末約1200台 SINET WIDE WCN 1.5M BGP4 BGP4 NCA5 吉田 吉田-宇治間をATM化 GenomeNet 宇治
なぜマルチホームか さまざまな研究プロジェクト 冗長経路の確保 快適なネットワークを求めて ネットワークの研究 専用ネットワークを用いた研究 耐障害性 快適なネットワークを求めて トラフィックの分散 近い経路の確保と選択 経路制御に関する運用技術の模索
回線状況の悪化 商用ISPとの通信 海外との通信 NCA5-WIDE : 1.5M が飽和状態 SINET-WIDE : 3M が飽和状態 SINET直結ISPとの通信は快適 海外との通信 SINET : 6Mが飽和状態 45Mへの増速で比較的快適に
商用ISPへの接続の検討 商用ISPとの通信の重要性 WIDE線の混雑の緩和 海外への冗長経路の確保 学生の就職活動、調達等のための製品情報 自宅等からの大学へのアクセス WIDE線の混雑の緩和 WIDEを経由せずNSPIXPへ 海外への冗長経路の確保 SINET障害時のバックアップ WCNに接続 (京大のトラフィックのみ流す)
マルチホームにおける経路制御 KUIX、学内 対外接続 OSPF (VLSM によるアドレスの節約) 学内には学外の経路を流さない BGP ルータのメモリ不足 対外接続 BGP AS path 情報による制御 NCA5 として AS2504 を保有 AS (Autonomous System) ごとの経路選択ポリシ
京大で観測されるBGP経路の例 130.34.0.0 2907 2503 i 2500 2503 i 133.105.0.0 2907 2513 i 7501 2497 2513 i 2500 2513 i 131.113.0.0 2907 2500 i 2500 i 150.64.0.0 2500 4725 2512 i 2907 4725 2512 i 7501 7518 2512 i 160.193.0.0 2907 2520 i 2500 7501 i 7501 I 2497 IIJ 2500 WIDE 2503 TOPIC 2512 TCP 2513 IMNET 2907 SINET 4725 ODN 7501 WCN 7518 CTC
外向きの経路選択 経路選択の基本方針 BGP の Weight を利用して選択 SINET, WCN, WIDE 接続組織へは 直接の経路を最優先 WIDE と SINET の相互接続点の経由は 極力避ける SINET > WCN > WIDE の順で優先 回線容量の差 WIDEは研究利用優先 BGP の Weight を利用して選択
BGPによる選択(抜粋) Weight 24000 SINET origin, SINET!any-AS, SINET!{OCN,ODN,NTTPC,IMNET,WEB,SPIN}!any-AS 22000 WCN origin, WCN!any-AS, WCN!{IIJ,IDC,KDD,NTTPC}!any-AS 20000 WIDE origin, WIDE!any-AS, WIDE!{IIJ,KDD}!any-AS 14000 SINET!any-path (without SINET!WIDE!any-path) 12000 WCN!any-path (without WCN!IIJ!WIDE!any-path) 10000 WIDE!any-path (without WIDE!SINET!any-path) 8000 any-path!WIDE, any-path!WIDE!any-path any-path!SINET, any-path!SINET!any-path
外向き経路制御の問題点 ネットワーク構成の見直しが必要 ルータのメモリ不足問題を回避するために... WCN から海外フルルートを受信 経路数: 約5万 2つの OSPF エリアに分割 OSPF エリア間でうまく経路選択ができない どちらが選ばれるかわからない 仕様? バグ? ネットワーク構成の見直しが必要
経路選択のためのネットワーク構成 WCNから海外フルルートを受信するために 中央ルータで複数OSPFプロセスを起動 WIDE WCN SINET EBGP EBGP 海外フルルート IBGP IBGP OSPF y OSPF x 弱小ルータ KUINS
大学向きの経路の調整 でもある程度使いたい (がらがらは避ける) 往復の一致は考えないことにしよう WCN、WIDE の 1.5M の線は飽和させない WIDE線はWCN接続前から飽和状態... 素直にアナウンスすると、飽和する でもある程度使いたい (がらがらは避ける) 往復の一致は考えないことにしよう WCN、WIDE 方面のアナウンスに対して AS-path プリペンドしてみる 前もって調整が必要
WIDE、WCNを軽くする努力 WIDE, WCN に対して AS プリペンド NSPIXP で観測される経路: IDC!WCN!NCA5!NCA5 KDD!WCN!NCA5!NCA5 IIJ!WCN!NCA5!NCA5 WIDE!NCA5!NCA5 SPHERE!SINET!NCA5
夏休み中のトラフィック ほぼ希望通り WCN 8月 WIDE SINET
夏休み明け後のトラフィック すでに破綻 WCN 8月 9月 WIDE SINET
さて、次の手段は? 1段の AS path プリペンドでは不十分 2段にするとどうなるか? Community は使えるか? ISPの協力が必要か? 経路図を書いて検討しよう...
京大への経路 WCN IIJ NSPIXP2 KDD 京都大学 WIDE SINET Sphere
今後の課題 トラフィックモニタリングによる情報収集 トラフィックを減らす努力 どんな通信が多いのか? どうやって測るのか? NetFlow は使える? トラフィックを減らす努力 Web proxy の活用 特にメディアセンター端末
まとめ マルチホームの経路制御は難しい 夏休みに調整しても無駄 もはや 1.5M は細すぎる 複雑なネットワーク構成ははまる 補正予算のルータ調達に期待