私ごと

自分の観点を言語化しておくブログ

2020-01-01から1ヶ月間の記事一覧

言語の性質と言語処理の埋め込み表現

自然言語処理の多くが、DeepLearningを使用する昨今ですが、万能関数としてのDeepLearningを使用しても、テキストデータだけで出来ることは、DeepLearningが統計的な学習である以上、テキストの中に内在する統計的性質だけが、エンコードできると私は考えて…

2019年の振り返りと2020年に向けて

一年に1回ぐらいは振り返りをしておきたいと思います。 2019年は言語処理は、embedding関連を進めていました。word-embeddingが何を見ているのか、その限界はどうなのかをより精緻化できたと思います(当初からわかっていたことだったのすが。)。この路線…