日本電信電話ユーザ協会千葉支部 : テレコム・フォーラム

このサイトは日本電信電話ユーザ協会千葉支部の会員様向けに発行しておりますメールニュースのアーカーイブサイトです。メールニュースはこちらでユーザ協会に入会することで購読することができます。

■	協会注目ニュース
■	協会からのお知らせ

■	ユーザ協会本部
■	とくとくホテルサービス

■	NTT東日本千葉支店千葉西支店
■	NTT東日本
■	千葉日報ホームページ
■	ちば観光ナビ
■	幕張メッセ

メールマガジン申込・変更・解除

■ LLMの追加学習なしで決められた長さ以上のテキストを生成可能な技術を開発
～独自の位置符号化機構によりLLMの学習コストの削減に貢献～

Source : NTT

日本電信電話株式会社は、ウェーブレット変換を応用したLLMの追加学習なしで決められた長さを超えるテキストを生成できる技術を世界で初めて開発しました。
位置符号化はLLM内部における各単語の位置を表現する機構で、従来のLLMではRotary Position Embedding（RoPE）が採用されていました。
2025年4月24日