日軍偷襲珍珠港計劃所有的細節都考慮得非常周密，首先在兵力編成上，既要求具備強大的突擊威力，又要避免編隊過於龐大而被發現，最終確定爲航空母艦6艘、戰列艦2艘、重巡洋艦2艘、輕巡洋艦1艘、驅逐艦11艘、潛艇3艘、油船8艘，共計33艘艦船，艦載機共計423架，其中擔負突擊任務的354架，其中九九式俯衝轟炸機131架，九九式水平轟炸機104架，中島b5n2九七式魚雷機40架，三菱a6m2零式戰鬥機79架，其餘69架飛機則負責保護編隊安全。
所有攻擊兵力分爲突擊編隊和先遣編隊，突擊編隊司令爲南雲忠一海軍中將，下轄六支部隊： 空襲部隊，由南雲直接指揮，包括“赤城”號、“加賀”號、“蒼龍”號、“飛龍”號、“翔鶴”號和“瑞鶴”號6艘航母，任務就是出動艦載機攻擊停泊在珍珠港的美軍戰列艦和航母。
警戒部隊，由第一驅逐艦戰隊司令大森仙太郎海軍少將指揮，編有“阿武隅”號輕巡洋艦和“穀風”號、“浦風”號、“濱風”號、“磯風”號、“不知火”、“霞”號、“霰”號、“陽炎”號和“秋雲”號9艘驅逐艦，負責爲空襲部隊和補給部隊提供警戒。
支援部隊，由第三戰隊司令三川軍一海軍中將指揮，編有“比睿”號、“霧島”號2艘戰列艦和“利根”號、“築摩”號2艘重巡洋艦，負責爲空襲部隊提供支援，主要是對付美軍的大型水面軍艦。
巡邏部隊，由第二潛艇大隊司令今和泉喜海軍大佐指揮，由“伊，19”號、“伊，21”號和“伊，23”號3艘潛艇組成，在編隊航線前方航行，擔負偵察警戒。
中途島破襲部隊，由第七驅逐艦大隊司令小西要人海軍大佐指揮，由“潮”號、“漣”號2艘驅逐艦和“尻矢”號補給艦組成，任務是炮擊中途島牽制美軍。
補給部隊，由“極地”丸、“極東”丸、“健洋”丸、“國洋”丸、“神國”丸、“東邦”丸、“東榮”丸和“日本”丸等7艘油船組成，負責爲編隊進行海上加油。
先遣編隊由第六艦隊司令清水光美海軍中將指揮，先於突擊編隊出發，下轄六支部隊：
第一潛艇部隊，由第一潛艇戰隊司令佐藤勉海軍少將指揮，下轄“伊，9”號、“伊，15”號、“伊，17”號、和“伊，25”號4艘潛艇，在瓦胡島東北展開，攻擊美軍可能出動反擊的艦艇。
第二潛艇部隊，由第二潛艇戰隊司令山崎重暉海軍少將指揮，下轄“伊，1”號、“伊，2”號、“伊，3”號、“伊，4”號、“伊，5”號、“伊，6”號和“伊，7”號7艘潛艇，在瓦胡島與考愛島、莫洛凱島之間的考愛海峽、卡伊威海峽展開，監視並伺機攻擊美軍。
第三潛艇部隊，由第三潛艇戰隊司令三輪茂義海軍少將指揮，下轄“伊，8”號、“伊，68”號、“伊，69”號、“伊，70”號、“伊，71”號、“伊，72”號、“伊，73”號、“伊，74”號、“伊，75”號9艘潛艇，在瓦胡島以南海域展開，攻擊美軍可能出動反擊的艦艇。
特別攻擊部隊，由第三潛艇大隊司令佐佐木半九海軍大佐指揮，下轄“伊，16”號、“伊，18”號、“伊，20”號、“伊，22”號和“伊，24”號5艘潛艇，各攜帶1艘袖珍潛艇，在空襲前將袖珍潛艇放出，由袖珍潛艇自行潛入港內，必須在第一攻擊波開始後才能乘亂從水下發射魚雷進行攻擊。
要地偵察部隊，由2艘潛艇組成，“伊，10”號偵察斐濟、薩摩亞羣島，“伊，26”號偵察阿留申羣島。
補給部隊，由“隱戶”丸、“東亞”丸、“新玉”丸、“第二天洋”丸、“日立”丸、“富士山”丸6艘油船組成，部署在本土和誇賈林羣島，爲先遣部隊的潛艇提供燃油補給。
爲了保證兩個編隊的密切協同，山本規定一直到攻擊開始前四天，都由南雲統一指揮， 航線選擇方面，從日本本土到珍珠港，通常有三條航線：一是經阿留申羣島的北航線；二是經中途島的中航線；三是經馬紹爾羣島的南航線
，這三條航線各有利弊，北航線遠離美軍岸基航空兵的飛機巡邏範圍，而且一般無商船航行，便於隱蔽，但氣候惡劣，風大浪急，海上加油比較困難，中、南航線，氣候宜於航行，但來往商船頻繁，而且距美方島嶼較近，易被美軍發現，經過再三比較，特別是出於保密的考慮，最後日軍選擇了北航線。
先遣編隊全部由潛艇組成，可以隱蔽地開赴戰場，所以沒有規定航線，只要求避開美軍岸基飛機巡邏即可。
突擊機羣起飛海域的距離，也是經過認重考慮的，太近容易被發現，太遠又會使飛行員疲勞，影響戰鬥，幾經研究，最後選定起飛海域爲瓦胡島以北200海里（約合370千米），即北緯42°，西經170°海域，根據當時日軍飛機的航速推算，從起飛到飛抵珍珠港需要約二小時，而且在艦載機起飛後，航空母艦便後撤一段距離，這樣一來，日軍飛機去時航程近，返回時航程稍遠，美軍如果派出飛機追擊，那麼往返航程都增加不少，增加美軍追擊的困難。
突擊時間的選擇更是煞費苦心，日方選擇了星期日作爲攻擊發起的時間，因爲根據美軍的活動規律，出海的軍艦通常在星期六返回，那麼星期日在港內停泊的軍艦最多，而且星期日人員休假也最多，戒備最鬆懈，綜合各項情況，突擊日定爲5月17號星期日，突擊時間爲早晨六時起飛，八時實施攻擊。
整個計劃考慮周詳，可謂滴水不漏，聯合艦隊有關的針對性強化訓練早在前一年的8月下旬就已開始，山本親自挑選並任命海軍航空兵中具有3000小時飛行經驗的頂尖飛行員淵田美津雄中佐擔任訓練總教官，負責對飛行員的訓練，針對珍珠港水深僅10至12米的地形特點，魚雷機飛行員集中在地形近似珍珠港的鹿兒島的櫻島訓練時，投雷高度從1000米逐漸下降，最後一直降低到20米。
魚雷機訓練基本動作完全模擬實戰，接近港灣後先降低高度，以50米高度在峽谷中曲折穿行，一飛到海面就降低到20米，並立即向目標發射魚雷，整個攻擊動作反覆進行演練，動作要領已經被飛行員牢記在心，日軍科研部門研製成功裝有木製穩定器的“改2”型淺水魚雷，解決了在淺水海域使用魚雷的技術難題，保證了魚雷機在20米高度投雷60%的命中率。
水平轟炸機飛行員在有明灣海軍轟炸靶場進行訓練，日軍在靶場上標出與美軍戰列艦同樣大小的靶標，經過兩週的單機和編隊轟炸，飛行員的投彈命中率已高達80%，而且命中精度達到300米高度誤差在30米內的極高水平，技術人員改進了投彈裝置，並將800千克穿甲彈改裝爲航空炸彈，以加大炸彈威力。
俯衝轟炸機和戰鬥機飛行員也進行了針對性訓練，都達到了訓練要求，爲了在空襲中取得更好戰果所有飛行員還強化進行了對美軍艦艇的識別訓練， 由於第五航空戰隊的“翔鶴”號和“瑞鶴”號航母，是去年的9月才正式編入第一航空艦隊建制，飛行員多是從岸基航空隊調入，正忙於進行航母起飛和着艦的強化訓練，沒有能參加上述的戰前訓練，所以山本決定，經過針對性訓練的第一、第二航空戰隊攻擊美軍艦船，第五戰隊攻擊機場。
與此同時，參戰艦艇也進行了強化訓練，水面艦艇主要是爲適應北航線的氣候特點，重點進行了惡劣氣候下的海上加油訓練，技術人員對加油設備進行了改進，還對加油方法進行了分析研究，幫助艦艇部隊提高海上加油的效率，山本還擔心如果無法從油船得到補給，作爲後備方案還特別進行了從戰列艦和航母向巡洋艦和驅逐艦進行海上加油的準備和訓練，此外所有大型軍艦都對不必要的設備和個人物品進行精簡，將節省下的載重量全部裝載燃料，以增加燃料儲備量。
使用袖珍潛艇的決定直到4月21日才確定，還要在袖珍潛艇上加裝切割反潛網裝置和自爆裝置，所以時間最爲緊迫，在水下地形近似珍珠港的中城灣進行了緊張的魚雷攻擊訓練，最後甚至還沒有來得及進行袖珍潛艇與母艇的合練就匆匆出發， 以上各部隊的訓練都是在極其秘密的情況下進行的，所有參訓人員只知道訓練要求，根本不知道訓練目的，