事務所ブログ

AIの活用について

Attention is all you need?

かつては人工無能だったはずのAIが、今や流暢に淀みなく会話ができるのはなぜだろう。

 

試しに、ChatGPTに聞いてみると、

“Attention”の仕組みのおかげだと答えた。

 

“Attention is all you need”という論文を聞いたことがあるだろうか。

人が文章を読むときは、一つ一つの単語を同列に扱うのではなく、重要な単語に注意を向ける。

まさにこのような“Attention”をAIモデルに取り入れると、自然な言語処理が可能になるという内容の論文だそうだ。

 

さらに、かつての人工無能ではどのような技術が使われていたのかを聞いてみた。

ChatGPTによると、マルコフ連鎖という技術が使われていたそうだ。

「ある単語の次にどの単語が使われるか」を確率的に学習して会話を成立させる非常に単純な仕組みだそうだ。

 

なるほど、と思った。

ChatGPTが人の意識の動きを再現しているのに対し、

人工無能は会話そのものを再現している。

 

ちなみに、口げんかをしたら、どっちが強いだろうか?

たとえば、「ばーか」と入力した場合、人工無能であれば、オウム返しにしてくるか、以前に入力されたことのある言葉をランダムで返してくるだろう。

 

実際に、ChatGPT相手に口喧嘩を試してみた。

単純なオウム返しではなく、顔文字を使った煽りが入るのが面白い。

ただ、「ポンコツ」に対して「ポンコツ」と返してくるあたり、人工無能の名残があるような気もするし、人間同士の口喧嘩も対して変わらないような気もする。

事務所ブログを検索

月別アーカイブ

お電話またはメールフォームからお気軽にご連絡ください! 各種ご相談・お問い合わせ窓口

お電話でのお問い合わせ
06-6361-6017 ※番号をタップすると電話発信します

受付時間:月~金(祝日を除く) 9:30〜17:30