近年，ドローンの物流分野への応用についての研究が進められている．先行研究では，ドローンの配送問題のマルチエージェント強化学習による解決が検討されている．しかし，マルチエージェント強化学習ではエージェント間の衝突を防ぐことが困難であり，安全が保障されない．本研究では，マルチエージェント強化学習を用いる際の安全を確保するための設計について提案する．まず，エージェントの状態表現に潜在的な危険を表す視野を取り入れて学習させる．また，エージェントの危険な行動を制限することでエージェント間の衝突を防ぐ．最後に，複数のマップでのシミュレーションによって，安全性と学習効果について提案手法の有効性を示した．