Jack Dorseyの決済企業Blockが発表した音声AIモデル「Dessa」は、その驚くほど人間らしい会話能力で注目を集める一方、詐欺や欺瞞の助長に繋がる可能性を懸念する声も上がっている。
同社によると、Dessaはテキストではなく人間の音声そのものを用いて学習されており、リアルタイムの会話中に割り込みや笑い、トーンの変化にも対応できるという。Blockはモデルが単一のNvidia GB200 NVL72コンピューティングシステムでゼロから学習されたと説明し、M4 Maxチップまたはそれ以上の性能を持つMacBook Pro上でローカル実行が可能なほどコンパクトだとした。
DorseyはXに「これと話すと人間と会話しているかのように感じる。感情やニュアンス、間、自然な抑揚に満ちている」と投稿し、デモでは文中で笑ったり驚きに対し本物の感情のような反応を示す様子が公開された。これら会話は指示なしのライブ録音であるとしている。
この革新的な技術はSNS上で「人間らしい」「まるでSFの世界」といった称賛の声を集めた。Binance創業者のChangpeng “CZ” Zhaoは教育分野での利用に期待を示し、「GiggleAcademyのような子ども向け教育でのAI音声活用の課題を克服できるかもしれない」と述べている。
一方で映画監督Justine Batemanは、AI音声がなぜ人間らしく聞こえるべきかを疑問視し、「人々を油断させ、騙すために利用されうる」と警鐘を鳴らした。ジャーナリストのShiv Aroorも詐欺電話が急増している現状を指摘し、懸念を示している。
DessaはBlockが運営するSquareやCash App、BitcoinウォレットBitkey、マイニングハードウェア部門Protoといった事業と並び、BlockのAI研究ラボが担当している。Dessaの開発には2020年にSquareが買収したカナダ・トロントのAIスタートアップDessaの元スタッフも参加しているが、モデルの詳細な規模や性能評価、一般公開の時期は未発表だ。
Blockは少数のAI安全性研究者に対し早期アクセスを提供し、音声AI技術がテキストでは捉えきれない感情の手がかりを認識する将来性を評価する一方で、未知のリスクの検証も進めている。