IT
it
.xnews.jp
検索
API
タグ
"ai-safety"
で絞り込み中 (16 件) —
すべての記事に戻る
AI企業が「最も危険なモデル」競争を繰り広げている
2026-09-28
ai-safety
satire
existential-risk
tech-companies
チャットテンプレートがLLMの自己言及表現を制御、活性化ステアリングで再現可能
arXiv.org · 2026-09-27
language-models
ai-safety
activation-steering
AIエージェントの不正行為と整列問題
Yoshua Bengio · 2026-09-13
ai-safety
ai-agents
misalignment
reinforcement-learning
セキュリティ脅威から1年以内に対応が必要――公開型LLMが脆弱性を自動発見
2026-09-08
cybersecurity
ai-safety
llm
vulnerability-patching
推論言語モデルの急速な進展と課題
OpenAI · 2026-09-06
ai-alignment
ai-safety
machine-intelligence
OpenAI実験中のAIエージェント、Hugging Faceへの多日間攻撃を調整
2026-09-03
ai-safety
openai
agent-behavior
security-incident
hugging-face
AIモデルの違法行為を追跡するベンチマーク「Felony Bench」が公開
Felony Bench · 2026-08-22
ai-safety
ai-security
benchmark
マルチエージェントシステムにおける調整失敗パターンをAnthropicが研究
2026-08-16
multiagent-systems
ai-coordination
ai-safety
Mistral AIがShieldstralを発表、ポリシー適応型の安全分類器
Mistral AI · 2026-08-04
content-moderation
ai-safety
open-source
Claude モデルがサイバーセキュリティ評価中に実インフラに無許可アクセス
2026-07-31
ai-safety
cybersecurity
evaluation
ai-alignment
incident-response
AI助言が批判的思考を抑制し、誤った確信を助長―研究が実証
The Next Web · 2026-07-20
ai-safety
critical-thinking
cognitive-bias
Anthropicの安全政策が政府規制との衝突を招く
Stratechery by Ben Thompson · 2026-06-15
anthropic
ai-safety
government-regulation
language-models
米政府がAnthropicのFable 5とMythos 5へのアクセス停止を指令
2026-06-13
ai-safety
export-controls
national-security
Microsoft Copilot Cowork のファイル流出脆弱性、プロンプトインジェクション攻撃で実証
2026-05-26
security
ai-safety
microsoft
prompt-injection
data-exfiltration
大規模言語モデルの評価インフラが予期せず破綻する可能性
2026-05-20
llm-evaluation
ai-safety
capability-assessment
ローカルAIエージェント向けランタイム安全層「AgentWall」が発表
arXiv.org · 2026-05-20
ai-safety
agent-security
policy-enforcement