どんなものか
- インタラクティブな映像生成と操作のための新しい表現であるPlayable Environmentsを提案した
- 1枚の初期フレームを与えると、そのシーンからインタラクティブに操作可能な環境を作り出す
Blog
tech diary
Playable Environments: Video Manipulation in Space and Time
category: papers
Extracting Training Data from Diffusion Models
category: papers
どんなものか
- 拡散モデルによる生成モデルが学習データを記憶しておりそれを取り出すことができることを示す
Discovering Bugs in Vision Models using Off-the-shelf Image Generation and Captioning
category: papers
どんなものか
- 大規模Vision and Languageモデルを使ってVisionモデルの不具合を発見する手法を提案した
- ImageNetの画像分類器に対して不具合を発見する
- 分類器が失敗した入力をクラスタリングしてキャプションを付けることで人間に解釈できる失敗の表面化を行う
TASK2VEC: Task Embedding for Meta-Learning
category: papers
どんなものか
- 視覚的分類タスクのベクトル表現を提供し、タスクの性質とその関係性を推論するために利用できることを示した
- タスクをプローブネットワークに入力しモデルのフィルターパラメータの対角フィッシャー情報行列を計算することで、この表現がタスクの難易度、入力ドメインの特徴などタスクを表現するベクトルとなることを示した
Ignore Previous Prompt: Attack Techniques For Language Models
category: papers
どんなものか
- Transformerベースの大規模言語モデルに足しいて敵対的プロンプト合成のためのフレームワークであるPROMPTINJECTを提案した
- goal hijackingとprompt leakingと呼ばれる2つの攻撃を提案した
- goal hijackingはプロンプトの本来のゴールとターゲットフレーズを印刷するという新たなゴールとの間にずれを生じさせる行為
- prompt leakingはプロンプト本来の目的を、本来のプロンプトの一部または全体を代わりに印刷するという新たな目的にすり替える行為
*****
Non sunt multiplicanda entia sine necessitate
Pudhina is a free Jekyll theme by Knhash.
copyright ©️ 2022 - 2024
Pudhina is a free Jekyll theme by Knhash.
copyright ©️ 2022 - 2024