2016年5月20日金曜日
2016年5月18日水曜日
ブライアン・カーニハンが書いたgo言語本
プログラミング言語Go
- ブライアンカーニハンが著作参加したThe Go Programming Languageの邦訳
- サンプルソースはこちら
- 事前に何らかのコンパイル言語を習得しているのが前提だと
- カーニハンが本書くのかよ、いやそんな珍しくないよD言語の本書いたよ、みたいなやりとり
PowerShell for Azure 邦訳
PowerShell for Azure
- Pro PowerShell for Microsoft Azureの邦訳版
- 章立ておそらくこんな感じになるはず
第1章 Azureのアーキテクチャ概要第2章 AzureではじめるPowerShell第3章 Azure Storageの管理第4章 ヴァーチャルマシンへの配備第5章 ヴァーチャルネットワークの設定第6章 Azure Web Appsの配備第7章 Azure SQL Database(の操作)第8章 Azure Automation(の操作)第9章 Azure RemoteApp(の操作)第10章 Azure Active Directoryの管理第11章 Azure RMS第12章 Azure HDInsight クラスタの構築管理
2016年5月12日木曜日
Apache NiF トラブルシューティングとあるある
・GetHTTPプロセサでSocketException Invalid Argumentエラー
(おそらく)君の使ってるJavaのバージョンが古いからエラー
java version "1.7.0_55"
Java(TM) SE Runtime Environment (build 1.7.0_55-b13)
http://stackoverflow.com/questions/16191236/tomcat-startup-fails-due-to-java-net-socketexception-invalid-argument-on-mac-o
JDKをこっからダウンロードして
java version "1.8.0_91"
Java(TM) SE Runtime Environment (build 1.8.0_91-b14)
にしたら動きました。(>>そのせいで多分某ゲームが動かなくなるのでバージョン切り替えできるようにする)
******
・REST API呼び出せない
Pathは/nifiじゃなくて/nifi-api
> The API lives at /nifi-api, so the address you are looking for would > be http://localhost:8080/nifi-api/controller/about
httpsが必要なものがあるようで、とりあえず呼べたのはこれ
http://localhost:8080/nifi-api/controller
NiFiプロセサ紹介 ExecuteProcessとPutFile
ExecuteProcess
OSのシステムコマンドを実行して結果をFlowFileに出力する。
処理が長くなりそうな場合はBatch Durationに時間を設定するとその時間間隔で出力を分けてくれるのでテキストの出力の場合は活用してもいいかもしれない。
PutFile
ローカルのファイルシステムにFlowFileを書き込む。
DirectoryにFlowFileを書き込むディレクトリを設定する。
sample1は上記二つのプロセサを組み合わせて/tmp/nifi_tempディレクトリにデータを出力するテンプレートファイル
ExecuteProcessプロセサが"Hello"を引数としてEchoの実行を行い、PutFileプロセサがFlowFileの出力を行う。
※windowsでExecuteProcessを使用する場合は、commandをcmdとして引数に実際のコマンド( /c echo hello)などと打てば、動く
**************
やり方いろいろあるだろうがExecuteStreamCommandのCommand Pathにはシェルスクリプトやバッチファイルの場所を書いたほうが無難みたい。
***************
GenerateFlowFile
負荷テストなどの目的で利用できるランダムデータからなるFlowFileの生成が行える。
File Size :生成したいファイルサイズ
Data Format :テキストかバイナリか選べる
sample2ではGenerateFlowFileプロセサが10KBのランダムな文字列からなるテキストファイルを2秒ごとに生成し、PutFileプロセサがFlowFileの出力を行う。
*************
GetHTTP
指定したURLに対してGETリクエストをかけて、取得したボディを指定した名前のFlowFileにする。
sample3ではHTTPGetプロセサがhttp://localhost:8080/nifiを呼び出し、結果をtest3.txtというファイルに保存する。念のためSchedule Durationを十日後に設定している。PutFileプロセサがFlowFileの出力を行う。
(SDKのバージョンによってエラーが出る場合があるため注意せよ)
*******
OSのシステムコマンドを実行して結果をFlowFileに出力する。
処理が長くなりそうな場合はBatch Durationに時間を設定するとその時間間隔で出力を分けてくれるのでテキストの出力の場合は活用してもいいかもしれない。
PutFile
ローカルのファイルシステムにFlowFileを書き込む。
DirectoryにFlowFileを書き込むディレクトリを設定する。
sample1は上記二つのプロセサを組み合わせて/tmp/nifi_tempディレクトリにデータを出力するテンプレートファイル
ExecuteProcessプロセサが"Hello"を引数としてEchoの実行を行い、PutFileプロセサがFlowFileの出力を行う。
※windowsでExecuteProcessを使用する場合は、commandをcmdとして引数に実際のコマンド( /c echo hello)などと打てば、動く
**************
ExecuteStreamCommand
図にするとこんな感じかな
図にするとこんな感じかな
やり方いろいろあるだろうがExecuteStreamCommandのCommand Pathにはシェルスクリプトやバッチファイルの場所を書いたほうが無難みたい。
***************
GenerateFlowFile
負荷テストなどの目的で利用できるランダムデータからなるFlowFileの生成が行える。
File Size :生成したいファイルサイズ
Data Format :テキストかバイナリか選べる
sample2ではGenerateFlowFileプロセサが10KBのランダムな文字列からなるテキストファイルを2秒ごとに生成し、PutFileプロセサがFlowFileの出力を行う。
*************
GetHTTP
指定したURLに対してGETリクエストをかけて、取得したボディを指定した名前のFlowFileにする。
sample3ではHTTPGetプロセサがhttp://localhost:8080/nifiを呼び出し、結果をtest3.txtというファイルに保存する。念のためSchedule Durationを十日後に設定している。PutFileプロセサがFlowFileの出力を行う。
(SDKのバージョンによってエラーが出る場合があるため注意せよ)
*******
2016年5月11日水曜日
Apache NiFi ドキュメントリンク
ドキュメント構成はこちら
Getting Started with Apache NiFi は初めてNiFiを使う人向けの「とりあえず動くの確認」用のチュートリアル
Apache NiFi User Guide はUIの操作を中心にNiFiでユーザーができることをガイド
Apache NiFi Expression Language Guide は属性値の判定や書き換えに使えるスクリプト言語の仕様書
The NiFi Expression Language で属性値の参照したり別の値と比較したり加工したりできます。
NiFi System Administrator’s Guide はユーザーの管理を含むシステム管理者向けの技術資料
hortonworks-gallery/nifi-templates はhortonworksによるtemplate集
Getting Started with Apache NiFi は初めてNiFiを使う人向けの「とりあえず動くの確認」用のチュートリアル
Apache NiFi User Guide はUIの操作を中心にNiFiでユーザーができることをガイド
Apache NiFi Expression Language Guide は属性値の判定や書き換えに使えるスクリプト言語の仕様書
The NiFi Expression Language で属性値の参照したり別の値と比較したり加工したりできます。
NiFi System Administrator’s Guide はユーザーの管理を含むシステム管理者向けの技術資料
/nifi-api はNiFiをリモート操作できるRest APIの仕様
NiFi Developer’s Guide はProcessorを中心としたNiFiのコンポーネント開発のための解説書
Apache NiFi Development Quickstart はNiFi本体を開発したい人のためのクイックガイド
Example Dataflow Templates はデータフローのサンプルをtemplate形式でお送りしている
For Developers は開発者向けの情報(アーキテクチャーやバージョンルールなど)
Indexing Tweets with NiFi and Solr NiFiでツイッターから情報とるサンプル
***************
プロセサの設定について
・プロセサは指定されたスケジュールにしたがって実行される。選べるのは
Timer driven: ‘Run duration.’の間隔にしたがって実行
Event driven:イベントドリブンで仮実装中(一部のプロセサで実行可能)
CRON driven:CRONの仕組みにしたがる。
の三種類
***************
プロセサの設定について
・プロセサは指定されたスケジュールにしたがって実行される。選べるのは
Timer driven: ‘Run duration.’の間隔にしたがって実行
Event driven:イベントドリブンで仮実装中(一部のプロセサで実行可能)
CRON driven:CRONの仕組みにしたがる。
の三種類
登録:
投稿 (Atom)