「リアルタイム・データハブ」アーキテクチャ Copyright©2008-2015 KAMOME Engineering, Inc. All rights reserved. ビッグデータを蓄積しながら、 同時にリアルタイムに処理するプラットフォーム 0 データの収集・複製・分岐 データの蓄積・保存.

Slides:



Advertisements
Similar presentations
統一メールアドレス 管理ページの使い方 ジュリナビ運営事務局. 統一メールアドレスとは 統一メールアドレス管理ページでできること 統一メールアドレス管理ページを開く(BASIC認証) 統一メールアドレスを新規発行する(1)(2) 登録者向けに一斉メールを配信する(1)(2)(3) 登録者情報をダウンロードする(1)(2)
Advertisements

M2B システム (Moodle/Mahara/BookLooper) の使い方. パスワード:<自分のパスワード> SSO-KID (数字10桁)は学生証の裏に パスワードを忘れた場合は、 から「パスワードを忘れた」を選択.
All Rights Reserved Copyright(C) D-CIRCLE Inc, 2002 POWER EGG Ver.1.6 サービスリリース 1 新機能説明資料 ( SQLServer 版、 Oracle 版) ディサークル株式会社
フォレンジック市場分析 E-Detective 説明 Decision Group Inc. フォレンジックとは? 不正アクセス 機密情報漏洩 などの犯罪 紛争が起こり 原因究明と捜査が開 始 電子的記録の収集、分析を 法的な証拠にする技術 「デジタル鑑識」 2,000 年より、 E-Detective.
Copyright (C) 2010 Cybozu, Inc. サイボウズ ガルーン 3 マルチレポー ト 活用支援資料 サイボウズ株式会社.
ファーストステップガイド ( 管理者向け) ナレッジスイート株式会社 Copyright (c) knowledgesuite inc. All rights reserved.1.
不当請求とは 契約内容等に対して妥当でない請求をされる事。 具体的には、無料サービスに対してサービス利用料が請求され たり、契約したときの料金とは異なる法外な料金が請求された り、といった場合が不当請求として扱われる 。
Windows 環境から SAS を使う 長野 祐一郎 1. データのダウンロード 2. データの加工 3. プログラムの作成 4.TeraTerm によるプログラムの実行 5. 処理結果の確認 6.SAS のデータ処理を概観 今回の授業では、 Windows 環境で作成されたデータを.
© Money Forward Inc. All Rights Reserved 1 iosアプリ使い方ガイドベータ版 2016/02/17.
1 EASE プロジェクトにおける EPM ( Empirical Project Monitor) を用いたプロジェクト管理デモ 奈良先端科学技術大学院大学 産学官連携研究員 松村 知子 2005 年 9 月 30 日 JISA 経営者セミナー.
(c) 2002 Digital-Knowledge Co.,Ltd. All rights reserved. 株式会社デジタル・ナレッジの e-Learning プラットフォーム Knowledge Learning の特長 2002 年7月 株式会社デジタル・ナレッジ.
IBMユーザ研究会九州研T3 5章 Webの発展可能性. WWWの発展が企業に与えるもの 顧客・ユーザのリテラシー向上 顧客・ユーザの操作的な ” 常識 ” の変化 システム開発プロジェクトでの応用 ウェブの発展を、企業はどう捉えて、 自らをどう変えていく必要があるか? 新しいプラットフォームをより深く理解することで、
メールで FAX を送信&受信 InterFAX サービス概要 株式会社 ドゥイッ ト 1 Rev. 61.
1 Copyright © Japanese Nursing Association. All Rights Reserved. Copyright 2016, Japanese Nursing Association. 日本看護協会 情報システム部 会員情報課 2016年7月29日 新会員情報管理(ナースシップ)
ご提案書 『ホテル インターネットサービスソリューション』
BOM for Windows セキュリティログ監視キット ファイル・アクセスログ収集ソリューション
Global Ring Technologies
The Enterprise-class Monitoring Solution for Everyone
状況に応じたサービスを 提供するための人や物に 共通の情報管理
NORWAY ENGLAND AMERICA FRANCE
HG/PscanServシリーズ Acrobatとなにが違うのか?
解決策がございます 派遣管理システムの必要性 派遣管理システムの導入です インターネット 導入すれば多くの メリットがあります
クラスタ分析手法を用いた新しい 侵入検知システムの構築
SQC勉強会(0) (事前のご案内) -1-.
合同会社IT政策調査研究所 All Rights Reserved.
らくらく学校連絡網 スライドショーで見る操作ガイド -3- 登録 抜粋-管理者作業 escで中断、リターンキーで進みます
Knowledge Suite(ナレッジスイート) ファーストステップガイド (管理者向け)
SoftLayerポータルへの不正アクセス防止
Lync 会議 Lync 会議に参加する Lync 2013 クイック リファレンス Lync 会議のスケジュール
ケータイキット for Smarty のご紹介
IM、プレゼンス、連絡先 IM 要求に応答する プレゼンスを設定または変更する ユーザーを検索する
ネット時代のセキュリティ2(脅威の例) 2SK 情報機器工学.
2つのユニット:21個 3つのユニット:29個 4つのユニット:23個 5つ以上のユニット:27個 合計:100個.
垂直統合システム / Converged System
心理学情報処理法Ⅰ やってみよう:Excelを使ってみよう.
Webサイト運営 09fi118 橋倉伶奈 09fi131 本間昂 09fi137 三上早紀.
Splunk(スプランク) システム管理業務でこんなお悩み・・・ありませんか? そんなお客様の課題を・・・
第5章 情報セキュリティ(前半) [近代科学社刊]
IM、プレゼンス、連絡先 IM 要求を受け入れる Lync 2013 クイック リファレンス プレゼンスを設定または変更する ユーザーの検索
プロトタイプ PoC プロジェクト概要 6 weeks ソリューションの検討 ビジネスの理解 プロトタイプの範囲 本稼動 システム検討
Safety Check On-demand Technology
Java ソフトウェア部品検索システム SPARS-J のための リポジトリ自動更新機能の実現
東京大学空間情報科学研究センターを 中心とした空間情報データベースの整備
導入予定価格円(仮) 導入予定サービス名 こんな繰り返し作業にうんざりしていませんか? 求人ページ 社内システム
UTM SS5000で社内ネットを一括管理 簡単に、安全な、ネットワークセキュリティ-システムを構築 UTM 無 UTM 有
すぐに「GIGAPOD」をお試しください
情報基盤センター 分散システムセキュリティ支援掛 2000年4月18日
Copyright © 2014 JOPS AWS Working Group, All rights reserved.
製品情報 Windows Server 2003のサポート終了をむかえ、ファイルサーバーの入れ替えを検討されていらっしゃる方も多いのではないでしょうか?既存のファイルサーバーをいきなりクラウド化するとインターネット回線の影響で、エクセルやワードのようなサイズの小さなファイルでさえ、開くまでに時間がかかってしまうことがあります。
セキュリティ(6) 05A2013 大川内 斉.
対応可否 スキル一覧 株式会社エージェント 2015年10月7日 Ver.1.0.
生産ライン情報管理システム.
Copyright(C) 2009 ○○○○○○. All Rights Reserved.
表紙.
Cisco Umbrella のご紹介 2018 年 1 月.
セキュリティ(2) 05A2013 大川内 斉.
スマートデバイスのビジネス活用を支援する法人向けファイル共有サービス
Web - 01 IIS を インストールしよう.
日本郵便 「Web-EDI」利用ガイド (JP EDIシステム)
コミュニケーションと ネットワークを探索する
「モノ」を見失わずに回収できる! 温度・加速度管理付 追跡サービス
ETPB: Extraction of Context from Pedestrians' Behavior
Kidslyマニュアル 保護者編.
CO-Client Opeartion 1.1 利用履歴データベースの設計 (スキーマ バージョン 対応)
   鳥取県サービス業生産性向上セミナー(宿泊業) ~参加費~ 無料 ICTを活用した新たな 顧客獲得に向けたアプローチについて 米子会場
日報の全体像を知る.
USBストレージを使わずに、安全にファイル共有
サーバーレス キャンペーンインフラご提案 特徴 料金 初期費用 0円 月額 120,000円 初期費用 0円 月額 380,000円
データの改竄を防ぐ仕組み 2002/9/12 牧之内研究室「インターネット実習」Webページ
アップデート.
Presentation transcript:

「リアルタイム・データハブ」アーキテクチャ Copyright© KAMOME Engineering, Inc. All rights reserved. ビッグデータを蓄積しながら、 同時にリアルタイムに処理するプラットフォーム 0 データの収集・複製・分岐 データの蓄積・保存 リアルタイムに加工 データの分析 BI ツール ダッシュボード Excel Saleforce Jaspsersoft Pentaho 他、 BI ツール ダッシュボード SQL 、 JDBC 、 ODBC API ①データの 複製・分岐 ③アドホック データマート作成 ②リアルタイム・デーマート作成 ④リアルタイム・モニタリング その他のリアルタイム処理 Tableau Motion Borad ?

GUST の機能 Copyright© KAMOME Engineering, Inc. All rights reserved. 1 ①データを複製・分岐し、リアルタイム処理 大量に発生するビッグデータを高速に複製・分岐し、 データの蓄積や、各種リアルタイム処理に投入 ビッグデータの活用では、バッチ処理的な分析以外にも、リアルタイ ムで処理したいケースがあります。 このようなケースでは、データ発生直後に高速にデータを複製・分岐 し、ビッグデータの蓄積を行いながら、同時に各種リアルタイム処理 にデータを投入する必要があります。 GUST は、ビッグデータを?????に格納しなが ら、様々なリアルタイム処理を実行します。

GUST の機能 Copyright© KAMOME Engineering, Inc. All rights reserved. 2 ②リアルタイム・データマート作成 ビッグデータの蓄積・保存と同時に、 リアルタイムでデータマートを作成 大量データ(ビッグデータ)は、その蓄積・保存にも多くの時間を要し ます。例えば、今日のマーケティング・データを蓄積し、分析用のデー タマートを作成し、実際に担当者が分析できるようになるまでに、通常 2~3営業日を要することになります。 分析担当者の「今日のデータは今日見たい」というニーズを実現するた めには、蓄積・保存と同時に、データマートを作成する必要があります。 GUST は、?????への蓄積・保存を 行いながら、同時にデータマートを作成します。

GUST の機能 Copyright© KAMOME Engineering, Inc. All rights reserved. 3 ②リアルタイム・データマート作成 Before ETL ツールを使って夜間バッチ処理。 今日のデータを使った分析が可能になるのは、数営業日後? After データを蓄積しながら、同時並行でデータマートを作成。 現時点までのデータを、いつでも取り出せ、すぐに分析できる。

GUST の機能 Copyright© KAMOME Engineering, Inc. All rights reserved. 4 ③アドホック・データマート作成 ビッグデータを、様々な確度から、 「トライ&エラー(=アドホック)」で分析 ビッグデータから、価値のある情報を見つけ、ビジネスで活用するため には、統計的な手法ももちろん必要ですが、 PDCA サイクルを短い期間 で回していくアプローチも必要です。 大量のデータ(ビッグデータ)から、従来の ETL ツール等を用いて分析 用のデータマートを作成するのは長い時間がかかり、 PDCA サイクルを 短くするという戦略に合致しません。 GUST は、?????に格納されたデータを 高速でデータマートに変換。短時間でデータマート が作成でき、繰り返し何度も処理できます。

GUST の機能 Copyright© KAMOME Engineering, Inc. All rights reserved. 5 ③アドホック・データマート作成 Before ETL ツールを使って夜間バッチ処理。 例えば、新たな分析軸を追加したい場合、バッチ処理を修正してから、 データを再作成、再度夜間バッチ処理を実行する必要がある。 新たな分析軸を使って、実際に分析ができるのは数営業日(場合によっ ては数週間)後? After 新たな分析軸を追加するために、 GUST の設定を変更。 数十分程度( ※ )で、すぐに新たな分析軸を使って分析が可能。 ※ データ量によって異なります。上記は数千万件程度のデータを想定しています。

GUST の機能 Copyright© KAMOME Engineering, Inc. All rights reserved. 6 ④リアルタイム・モニタリング ビッグデータの蓄積・保存と同時に、 リアルタイムでデータを監視 「大量のシステムログから、異常データを検知したい」、「システムへ の不正アタックや、不正な決済の実行などを、速やかに検知したい」、 といったニーズに対応するためには、データを蓄積・保存してから、分 析していたのでは間に合いません。データが発生した瞬間に、それをモ ニタリングし、異常値を検出、アラートする必要があります。 また、消費者の行動をリアルタイムにモニタリングして、その場での クーポン発行・送付など、マーケティングに応用することも可能です。 GUST は、?????への蓄積・保存を行い ながら、同時にリアルタイムでデータを監視します。

GUST の機能 Copyright© KAMOME Engineering, Inc. All rights reserved. 7 ④リアルタイム・モニタリング GUST が可能にすること 単純なログのフィルタリングだけでなく、 1時間以内に、○○が何回出現したか 1分間の平均値を計算して、平均が○○以上だったら といった、時間軸を考慮した条件設定が可能。 複数のログをリアルタイムに突き合わせて、 A ログが○○という条件に合致して、同時に(1時間以内に) B ログが△△という条件 に合致したら といった条件設定が可能。

GUST の機能 Copyright© KAMOME Engineering, Inc. All rights reserved. 8 ④リアルタイム・モニタリング(ユースケース) 情報システムの予防保守 システムの各種ログを収集。 DB でxxというログが出たあと、5分以内に Apache でxxというログが出た ら、システムダウンの兆候なので、アラートを出す。もしくは自動リブートす る。 不正な機密情報へのアクセスを検知 各種システムの認証ログ、アクセスログ、入館等のカードリーダーのログ、 WAF のログ、全 PC の操作ログを収集。 カードリーダーの情報で、オフィスに入館していない人が、社内からログイン して重要な情報にアクセスしようとしていたら、アラートする。 大量の個人情報をダウンロードした後、 PC から当該ファイルを USB 等にコピ- したり、ネットワークで転送していたら、アラート。

GUST の機能 Copyright© KAMOME Engineering, Inc. All rights reserved. 9 ④リアルタイム・モニタリング(ユースケース) 行動履歴からのクーポン発行(又は観光案内) 店舗 Web サイト(又は観光サイト)のログと、スマートフォン内のアプリログ (位置情報)とを収集する。 店舗 Web サイト(又は観光サイト)に訪問した人が、その店舗(その観光地) の近くまで来たら、即座にクーポン(観光情報、お土産情報)を発行する。 自宅の防犯 玄関ドアや窓の開閉、電気や照明のログ、家族の位置情報などの情報を収集。 家族が外出中にも関わらず、ドアの開閉や電気の使用があった場合や、普段と 異なる利用パターン( ※ )が検知された場合に、セキュリティ会社に通報。 ※ 「普段と異なる利用パターン」を見つけるには、別途ビッグデータ分析が必要。