【情報に関する理論】符号理論、述語論理、オートマトンなど

符号理論、述語論理、オートマトン、形式言語、計算量、人工知能(AI)、知識工学、学習理論、コンパイラ理論、プログラミング言語論・意味論についてまとめました。

【符号理論】

【述語論理】

用語 概要
アスキーコード ASCII(アスキー)とは、英語等のラテン文字を中心とした、文字コードの1つです。文字コードとは、コンピュータで文字を扱うときの「文字」と「文字に割り当てる番号」の対応表です。コンピューターは「abc」といった文字を文字のまま理解できないため、数値に置き換えてやるます。例えば、ASCIIコードでは「a」という文字を「97」という数値で表します。
ハフマン符号化 可変長の符号化方式で、出現確率が高いデータには短い符号を、低いデータには長い符号を与えることで圧縮を効率よく行う方法です。符号化のビット列に全く同じ符号の並びが存在しないように、ある文字に対応する符号が、他の文字に対応する符号の接頭辞にならないように設定されます。これにより単純に先頭から読んでいくだけでデコードができます。

【オートマトン】

オートマトンは、現在の状態と入力信号の組合せだけによって次に遷移する状態が決まるモデルです。

【形式言語】

用語 概要
ワイルドカード 「*」「?」の2種類の記号で、文字列の集合を表現
正規表現 ワイルドカードの「*」「?」に加えて、さらに他の記号を使ってより文字列の集合を表現

【計算量】

【人工知能(AI)】

G検定にも頻出な内容です。

用語 概要
人工知能 コンピュータによる知的な情報処理システムを設計、または実現するための研究分野。
機械学習 人間の学習・予測能力をコンピュータで実現するための技術や手法の総称。「明示的にプログラムせずに学習する能力をコンピュータに与える研究分野」というアーサー・サミュエルによる定義もありあます。コンピュータに大量の学習データを与え、自律的にデータの特徴点を抽出し、コンピュータにパターン認識や分類能力をもたせる学習です。教師あり学習、教師なく学習、強化学習などの種類があります。
深層学習 ディープにーラルネットワークを用いて学習を行う機械学習アルゴリズムの1つ。
人工生命 コンピュータ、機械などを使って生命現象や進化のプロセスを再現する技術です。
エキスパートシステム 特定の分野の専門知識をコンピュータに入力し、入力された知識を用いてコンピュータが推論する技術です。機械学習とは違い、判断式を人間が事前に与える必要があります。
エドテック 人が双方向学習を行うために、Webシステムなどの情報技術を用いて教材や学習管理能力をコンピュータにもたせるための技術です。
チューリングテスト ある機械が人工知能かどうか判定するテスト。1950年にアラン・チューリングが論文で発表。人間の審査員が、機械であることを知らずに機械と対話させ、どの程度の割合で機械と人間との確実な区別ができないかをテストする。
ELIZA 1966年に発表された自然言語処理プログラム。複数の審査員が人間と会話していると判定し、チューチングテストで合格する機械を実現する可能性を示した。
RAPPY ELIZAのあとに開発された自然言語処理プログラム。こちらも複数の審査員が人間と会話していると判定し、チューチングテストで合格する機械を実現する可能性を示した。また、ELIZAとRAPPYは何度か会話を行い、最初の会話がRFC439に記録されている。
第1次AIブーム 1950年後半~1960年代にかけて「推論と探索」によるAI(人工知能)がブームとなる。「推論と探索」は、事前に決まっているルールとゴールの枠組みの中で、コンピュータが最短・最速でゴールに到達する選択を行う。現実の問題は、様々な要素が複雑に絡むため解くことができない(おもちゃの問題:トイプロブレムを解くのに限られる)ため、ブームが終了。
第2次AIブーム 1980年代にエキスパートシステム(特定の分野の専門知識をコンピュータに入力し、入力された知識を用いてコンピュータが推論する技術)が台頭。知識ベース(知識のあつまり)と推論エンジン(推論を行うプログラム)で構成。機械学習とは違い、判断式を人間が事前に与える必要があり、様々な要素が複雑に絡むため解くことができないため、ブームが終了。
第3次AIブーム 2000年代以降に機械学習と深層学習が台頭。
ニューラルネットワーク 多数のニューロンを結合して構成される予測器。
ニューロン ニューラルネットワークの最小単位。単純な数値予測を行う。入力に対して以下の処理を行う。
・与えられた入力から、総入力(=入力の重み付き和+バイアス)を計算
・活性化関数で出力を計算
LeNet ヤン・ルカンが考案したニューラルネットワーク。
ILSVRC 2010年から開催されている、ImageNetデータセットを用いた画像認識の精度を競うコンペティション。
AlexNet ILSVRC 2012で圧倒的な精度の高さで優勝した「ジェフリー・ヒントン」率いるチームが利用したディープラーニング(AlexNetと呼ばれる8層の畳み込みニューラルネットワークの1つ)がきっかけで深層学習と第3次AIブームが活発になる。
GoogLeNet ILSVRC 2014で優勝した22層の深層学習モデル。
ResNet ILSVRC 2015で優勝した152層の深層学習モデル。
フレーム問題 AIが抱える本質的な問題。人が課題解決する際は、無意識に問題に関連する情報を選択・抽出するが、無限の可能性からの探索なのでAIが同じことを行うのが難しいという問題。第3次AIブームでの克服が期待されている問題。
強いAI フレーム問題を解決し、人間のようにあらゆる問題を解決できるようなAI。
弱いAI フレーム問題により、特定の問題解決しかできないようなAI。
シンギュラリティ 技術的特異点(人工知能が人間を越えて文明の中心的存在となる時点)。レイ・カーツワイルは2045年にシンギュラリティが到来すると述べている。ヒューゴ・デ・ガリスは21世紀後半にやってくると予測。イーロン・マスクはシンギュラリティに備えて非営利団体OpenAIを設立。オレン・エツイオーニはシンギュラリティが到来するというのは馬鹿げていると主張。ヴァーナー・ヴィンジは、シンギュラリティとは「機械が人間の役に立つふりをしなくなること」と定義。スティーブン・ホーキング博士は「AIの完成は人類の終焉を意味するかも」と述べた。

【知識工学】

【学習理論】

【コンパイラ理論】

【プログラミング言語論・意味論】

【機械学習】教師あり学習、教師なし学習、強化学習

機械学習とは、学習方法をプログラムしたコンピュータに大量の訓練データを与えることで、コンピュータ自らに事象の認識や分類方法を学習させ、未知のデータに対しても学習結果に基づく推論を行うシステムを作る手法の総称です。
機械学習は、訓練データの性質によって「教師あり学習」「教師なし学習」「強化学習」の3つに大別できます。

用語 概要
教師あり学習 訓練データとして、ラベル(正解)付きデータを使用する学習方法。入力に対する正しい出力の例を与えることで、入力と出力の関係を学習させる。
教師なし学習 訓練データとして、ラベルなしデータを使用する学習方法。クラスタリングなどのためにデータ構造を学習させる。
強化学習 正解データの代わりに、与えられた環境における個々の行動に対して得点や報酬を与える学習方法。一連の行動に対して評価値を与えることで、高い得点を取る、すなわち最良の行動を自律的に学習させる。
【情報処理入門】テクノロジ系、マネジメント系、ストラテジ系、資格試験
情報処理の基礎知識(テクノロジ系、マネジメント系、ストラテジ系)や資格試験についてまとめました。
コンピュータ
西住工房

コメント

タイトルとURLをコピーしました