2人の元研究者 グーグルそのうちの 1 人は、人工知能アーキテクチャ「トランスフォーマー」の共同発明者であり、これにより、 ブーム の 生成AI今週木曜日（17日）、この分野で新会社を設立したと発表した。 AIさかな東京を拠点に活動。

同社はデビッド・ハ氏とライオン・ジョーンズ氏によって設立され、資金調達の詳細は明らかにされていない。

ジョーンズ氏は、人気のチャットボット ChatGPT と現在のデータ活用製品の開発競争の基礎となる「変革的」深層学習アーキテクチャについて概説した 2017 年の研究論文「Attending Is All You Need」の 5 人目の著者です。 。 ハ氏はStability AIの研究責任者であり、Google Brainの研究者でもあった。

• Googleは人生に関するアドバイスを提供するAIアシスタントをテスト中
• Google は組み込みの生成 AI を使用して記事全体を要約します

この有名な論文が発表された後、基本的な生成 AI モデルの進歩は、「トランスフォーマー」ベースのモデルをますます大きくすることで構成されていました。 ジョーンズ氏はロイターに対し、Sakana AIはこの道をたどるのではなく、基本モデルの新しいアーキテクチャの作成に注力すると語った。

「これらすべてのデータを考慮した単一の巨大なモデルを構築する代わりに、私たちのアプローチは、それぞれに独自の利点と小規模なデータセットを持つ多数の小さなモデルを使用し、これらのモデルが通信することになる可能性があります」お互いに協力し、問題を解決するために協力する」とハ氏は述べ、それが単なるアイデアであることを明らかにした。

Google論文の執筆者は全員現在、同社を退職している。 著者らの新たな事業は、チャットボットのスタートアップCharacter.AIを経営するNoam Shazeer氏や、言語モデルのスタートアップextended Cohereを設立したAidan Gomez氏などのベンチャーキャピタリストから数百万ドルの資金を集めている。