備忘録~ .data[0] でエラーが出たとき

PyTorch 0.5 以降、ゼロ次元テンソルから値を取り出すには .data[0] ではなく .item() を使う。

知識グラフと言語処理

最近、知識グラフに関する研究に注目しています。知識グラフは、知識の断片を「主語ー述語ー目的語」の3つ組で表して、3つ組の集合として知識を記述する方法です。 このように3つ組にするということは、数学的には2項関係の集合として知識を書くこと、つまり…

GeForce RTX-3080

深層学習にGPUを使うのは常識になっていますが,GeForce RTX 3090はコア数が10,496、GPUメモリが24GB、GeForce RTX-3080はCUDAコア数が8,704,GPUメモリが標準で10GBあるので,深層学習用にはかなり使えます.良い世の中になりました.この調子なら,来年に…

DyGIE++備忘録

研究員や学生さんが最近実験に使っているDyGIE++を自分のGPUボックスにインストールしたときの備忘録.DyGIE++はPyTorchで書かれた固有表現・関係・イベント抽出ツールでインストール法や使い方は下記に書かれている. github.comここでは捕捉を書いておく.…

Scikit-Learn classification_report

知っている人は知っているのだと思いますが,機械学習ライブラリ scikit-learn の 関数 classification_report には digits というキーワードがあり,スコアの桁数を指定できます. classification_report.py のソースコードを読んでいるときに気が付きまし…

DeepLの翻訳が日本語に対応

昨年の2月26日に翻訳サイトDeepLの紹介をしました.そのときには,日本語対応ではないということを書きましたが,少し出遅れましたが,今月19日に日本語に対応しました.まあ,とりあえず試してみてください.翻訳品質の高さにかなりの衝撃があります.たぶ…

CPU or GPU

2011年の言語処理学会年次大会でGPUを使った言語処理の発表をした頃は、現在の深層学習ブームの前であったこともあり、言語処理におけるGPUの利用はあまり注目されていなかった。反対に、現在は「ちょっと偏り過ぎでは」と懸念するほど、GPUを使った深層学習…

deepfake

トランプ大統領が、ニュースメディアに向かって、君たちはフェイクニュースだと反論する。そんな時代。この場合は、本当にニュースがフェイクなのかリアルなのか知る由もないが、とにかく巷にフェイクが溢れ始めている。フェイクの最先端を行くのがディープ…

SNL2019まもなく

SNL2019がいよいよ明後日に迫りました。準備は順調です。会場もいい感じで埋まりそうですが、 まだ当日参加も可能です。Maximilianが講演のタイトルと内容を少し変更して、連想記憶と階層構想の 埋め込みの関係について、何か新しいことを話してくれることに…

SNL2019

第3回の国際ワークショップ Symbolic-Neural Learning (SNL2019)を7/11-12にお台場・科学未来館で開催します. https://www.airc.aist.go.jp/snl/snl2019.htmlSNL2019の組織委員長は産総研の辻井潤一人工知能研究センター長,プログラム委員長は,同じく産総…

2018チューリング賞はニューラルネットの研究者3名に

2018年のチューリング賞はニューラルネットの研究者3名Yoshua Bengio, Geoff Hinton, and Yann LeCunに贈られる. awards.acm.orgBengio先生は2017年に名古屋で国際ワークショップのco-chairをやったときに招待講演にお呼びしたことで親近感がある. 大先生…

IJCAI査読

IJCAI2019には6,131件の投稿があったそうな.予想外の数にプログラムチェアも大変そうで,査読者の追加募集をしていた.それでもシニアな査読者が十分に集まらなかったのか,今回の査読割り当てはフルペーパー6件とかなり重い.トップカンファレンスの査読は…

言語処理と特殊相対性理論

言語処理の研究がジャイロベクトル空間を通して特殊相対性理論と関係してくるというカオスなご時世.

人工知能の差別問題

意図せず人工知能に差別意識を学習させてしまうことが問題となっています.jp.reuters.com原因は,人工知能(正確には機械学習アルゴリズム)に問題があるのではなく,学習に与えるデータの偏りが原因で問題が発生しているのです.記事のアマゾンの技術職の…

DeepL

DeepLの翻訳の性能がさらに向上している.フランス語ー英語の翻訳を試したみると,ほとんどの文が普通に理解できる英語になって出てくる.以前,上手く訳せないといわれていた文も正しく訳せるようになっている.タイピングしながら(正しい)訳文が出てくる…

言語処理学会2019プログラム編成

NLP2019の投稿件数が398件と過去最高になりました。投稿していただいた皆様ありがとうございました。前回は332件でしたから、2割増ぐらいになっています。実際は今回からワークショップを本会議のテーマセッションに取り込んでいますので、実質は1割5分増ぐ…

自動走行講演

11月28日に国際会議JIST2018で自動走行オントロジーについての 招待講演をしてきました。少しNLPを使った知識獲得の紹介もしてあります。現在、交通教則に交通関係のアノテーションをしていることろで、まだまだ品質が確保できていませんが、アノテーション…

Times Higher Education World University Rankings

THEのサーベイの依頼が今年も届いた。普通に考えて、やはり大規模有名大学が有利な設問になっている。 前回候補になかった豊田工大が選択リストに入っているので、対象大学の更新はされているが、専門の狭い小規模大学は不利。たとえば、先進的な研究をして…

NIPS

NIPSは今年で32回目の開催となる機械学習分野では歴史ある国際会議。ニューラルネットを中心テーマに据えている。この会議の名前が物議をかもしているという。これまで特に問題になったという話は聞いていなかったが、NIPSという響が女性差別を助長するとい…

ICLR 2019

ICLR 2019の投稿件数は1586件。昨年の 1003件から大幅に増加。ICLR 2019のPC co-chairにTTICのKarenが入っているが、査読の分配が大変そう。

皮膚科医vs人工知能

Annals of Oncology に5/28付けて興味深い論文が掲載された。皮膚ガンの画像診断の正確性を医者とAIで比較すると、AIの方が性能が高かったと報告されている。いろいろな比較をしていますが、一番分かりやすい比較は、皮膚ガン(メラノーマ)の診断の正確性を…

SNL2018

昨年に引き続き、第2回のSymbolic-Neural Learning Workshopを開催します。投稿締め切りが5月末に迫っております。非常に強力な招待講演者が揃っております。日本において、これだけ一流の講演が高密度に揃うのは奇跡的といえます。最新の研究成果をぶつける…

Uber 自動走行車事故

Uberの自動走行車が事故を起こしたときの映像が公開された。http://pic.twitter.com/2dVP72TziQ (出典:Temple Police)映像だけで見ると、暗闇から歩行者が突然浮き上がるが、下記の記事のように、事故車はレーザーレーダー(屋根の上にある円筒形の装置)を…

研究室引越し

キャンパスの建物の全面建て替えが進行中です。4月末に知能数理研究室も新築の南棟へ引っ越します。現在はまだほとんど何も入っていませんが、ここに最大18名が入る予定です。奥の小部屋はサーバー室。

NLP2019@Nagoya

言語処理学会年次大会2018@岡山の本会議が昨日で無事終了。今日は大学の卒業式のため名古屋に戻ってきています。今年はプログラム副委員長という見習いでしたが、来年の年次大会ではプログラム委員長を務めさせていただきます。みなさまのご支援・ご協力を…

Academic Reputation Survey

世界の大学ランキング作成のための調査依頼が届いた。なぜ私のところに来たのかはわからないが。 弊社では、次回のTimes Higher Education World University Rankingsのために、エルゼビア社と協力してAcademic Reputation Surveyを実施しており、皆様にこの…

分散表現ベクトルの説明法

卒業研究や修士研究の発表会で、分散表現ベクトル(埋め込みベクトル)を使った研究を発表するとき、分野外の先生方からいただく難問のひとつが、「そのベクトルにはどういう値が入っていて、どんな意味をもつのか」という質問。「ベクトルを乱数で初期化し…

ICML 2018

ICML の投稿数が2500件を超えたとのこと。これまでの最高記録。なんか凄いことになっています。ICML2014の投稿数が約1250件でしたので、4年で倍増しています。果たして査読者が足りるのか心配になります。

Nature Machine Intelligence

Natureが新しい雑誌を出すようだ。これまで、主に自然科学系を対象にしていたが、AIにも対象を広げるらしい。ただ、論文投稿の際にソースコードやデータを公開することを必須にする方針のようで、プログラムやデータによってはすぐには公開できないものもあ…

NAACL2018 "Test of Time" awards

NAACL2018は "Test of Time" awardを1〜2件の論文に贈る。歴史的論文賞という感じで、2002〜2012年に発表され、大きな貢献のあった19の論文をエリアチェアが選出し、投票により1〜2件を決定する。 https://naacl2018.wordpress.com/2018/01/14/test-of-time-…