対話Bot品質向上プロジェクト(議論部屋)

[Diaboro87]

下記issueで対話Botの品質向上を考えております。
#72

ファーストステップとして、私が過去自作したTwitterの解析APIがあるのでこれをベースに使えたらなと考えております。
仕組みとしては

1. Twitterからツイートを取得する<-python,twitterApi
2. 形態素解析を行う<-python,mecab
3. 適切な形でDBに蓄積を行う<-python,postgres
4. 蓄積したデータを拾い上げて、1文にする。<-python
5. 作成した文章を140文字以内となるようにつなげて、つぶやきを行う<-python,twitterApi

この、つぶやきとかTwitterの部分がDiscoのBotになるようなイメージです。
後々ですが、この蓄積したデータをそのままDeepLearningさせて、精度を上げていこうと考えています。

1. Discoからメッセージを取得する<-ruby,DiscoApi
2. 取得したメッセージを先のAPIに流す<-ruby
3. 形態素解析を行う<-python,mecab
4. 適切な形でDBに蓄積を行う<-python,postgres
5. 蓄積したデータを拾い上げて、1文にする。<-python
6. 作成した文章を適切な長さに加工して、Botに返す<-python,twitterApi
7. Botは受け取ったものをチャンネルへ流す<-ruby,DiscoApi

対話Botプロジェクトとして勧めていけたらと思っております。
https://github.com/xpjp/xpfiat-bot/projects/1

[hir0king]

それに参加させて頂きたいです！！！！！！
CNNでdeeplearning使った画像分類程度しかしたことなく、RNNはほとんど触ったことないですが
そっちも興味があって触りたいと思っていたところなんです(*ﾟ▽ﾟ)ﾉ
RNNの事勉強しながらになってしまいますが、よろしくお願いします！

[Diaboro87]

それは良かった。
お伝えできる範囲はお伝えするので、協力してやっていきましょう。

色々と私も調べながらになると思いますが、頑張って経験値溜めていきましょうｗ

[hir0king]

今、ちょっと見てて思ったのですが仕組みのなかの「蓄積したデータを拾い上げて、1文にする」とゆうのが、いまいちわからなかったのですが、次にくる確立が高い単語を選んでいる様な感じですか？
あと深層学習はTensorflowなどのライブラリを使用する予定ですか？
質問ばかりで申し訳ありませんm(_ _)m

[Diaboro87]

説明がめんどくさかったので、割愛しましたが、ファーストステップは学習というよりただのマルコフ連鎖使ってやります。リリース速度上げるために。
時間ある時なら説明するので、気になったら調べて見てください。

深層学習では、Pythonのライブラリを使うところまでは想像しています。決まってないのでなんでもいいと言えばいいです。

論文の中ではcaffeが多く使われているようなので、ベースはそのあたりかなと。
テンサーフローでも、チェイナーでもなんでもいいといえばいいです。
モデル考えたり、活性化関数考えたり、そもそも学習させたりしなきゃと機械学習はやること山積みなので、軽量かつ計算速度が出るものを選択したいと思ってます。

[Diaboro87]

ps質問はガンガンしてください。
ネット上なので、発言しない人はいないものとみなされます笑

[hir0king]

マルコフ連鎖勉強しておきます...
開発がpythonなのはとてもよかとです♥
会話を学習させるのはNeural Conversation Modelって学習モデルがいいと雑誌で見たのでそこらへんのモデルが組みやすいものだといいかもしれないですね。

[SohMitian]

マルコフ連鎖調べましたが、これって台詞データが必要な感じですかね。

[Diaboro87]

セリフデータというか、2組とか1組の発言がそのまま使われますね。

[SohMitian]

あーなるほど、わかってきた。精度はともかく、確かにこれならRNNより遥かに低コストですね。
コアが既にあるので、後はI/O周りだけって感じですか？

[Diaboro87]

ザッツライト！そゆことになります。

[hir0king]

マルコフ連鎖おもしろいですね
これだと学習させるのには心もとないデータ量であっても、
比較的マトモな返しが期待できるって理解でいいですかね。