技術情報

ARISE analyticsの技術関連活動


LLM

  • 【JSAI2024】「J-NER:大規模言語モデルのための固有表現認識における拡張固有表現階層を考慮したベンチマークデータセット」についてポスター発表しました

    はじめに こんにちは、ARISE analyticsの渋谷と澁谷です。 弊社では、自己研鑽の一環として一部有志が研究活動を行っており、今年は人工知能学会 全国大会(JSAI2024)でポスター発表を行いました。本記事では私たちが行った「大規模言語モデルのための豊富な 固有表現を含んだ固有表現認識用データセットの構築」に関する研究内容を紹介します。 ・データセット sergicalsix/Japanese_NER_Data_Hub · Datasets at Hugging Face 背景...

  • 層に着目したLLMの口調の学習について

    こんにちは。Innovation & Growth Divisionの渋谷です。今回は3月10日に行われた【第3回】生成AIなんでもLT会の登壇内容の記事です。 ▼登壇資料はこちら 【第3回】生成AIなんでもLT会 2024_0304なんでも生成AI_sergicalsix.pptx from ARISE analytics はじめに LLMのファインチューニングをしていると、ふと「学習した情報ってどこに保存されているんだろう?」と思うことはありませんか? LLMの知識がどこに保存されているのかというお話は、議論されていて「全結合層に知識が保存されている」という仮説などあります。...

1
ご質問・お問い合わせは
こちらよりお送りください
採用
ARISE analyticsとは

PAGE TOP