楊瑞符營長返抵營部時，已經是十月二十七日零時二十分左右，由於此時一營各連士兵都已根據二十六日晚間十時先前的撤退命令開始撤軍，楊營長只得急忙派傳令兵分頭追回，自己則在營部等待。
不久，第一連的第一排和第二排，以及第二連都先後趕回營部，其他連隊早已不知去向，楊瑞符只得先率領這一個半連的士兵趕至四行倉庫向謝晉元團附報到。至凌晨三時許，在日軍的槍砲聲中，他們一路左防右閃，最後終於平安到達四行倉庫。
之後，原先沒聯絡上的第一營第一連第三排，以及第三連和第四連的機槍連也先後來到四行倉庫，原來他們在撤退途中遇到團部的長官，才知道第一營的任務有所變更，雖然大家都很清楚此次任務無疑是要赴死，沒有任何後援，但他們還是毅然冒死躲過日軍猛烈的砲火，趕到四行倉庫。
趁著天還未亮，謝團附與楊營長共同召集各連、排長傳達任務，再讓其下令分頭設防。其中第三連第二排排長尹求成率兩個班的士兵組成警戒部隊防守蒙古路旱橋一帶（此為楊瑞符營長手記中之說法，另一說為民德路附近的閘北旱橋），與第二連第一排第一班蔣敬班長所帶領、部署於光復路與滿洲路交口處的碉堡（＊註）以及民房內的九人相互呼應支援。
＊註：此碉堡由鋼筋水泥所構築，射口向南，為民國二十四年後所建置的國防工事。
防守上海北站前線的第一連，沿西藏北路部署在四行倉庫右翼；第三連守衛在左翼交通銀行倉庫大樓對面（﹡註）；第二連在中央擔任四行倉庫外圍之守備；第四連機槍連則以二挺高射機槍防守於倉庫樓頂平臺；其餘六挺重機槍除了配置於樓頂外，還分別配屬給第一和第三連；二十七挺輕機槍則分佈於各連。
﹡註：四行倉庫西邊的滿州路（今晉元路）對面，是三層樓高的江蘇銀行第一倉庫，再過去是上海福源和福康錢莊聯合倉庫，亦為三層樓建築，唯高度較江蘇銀行倉庫高一些，再隔一段距離則是四層樓高的交通銀行倉庫。
兵力佈署完畢後，謝團附率眾進入倉庫內收拾炊具、收集可作為燃料的木材，並指示將士們迅速偵查地形，佈置陣地，利用倉庫內的沙袋以及裝有牛皮、絲繭、玉米、黃豆、小麥等物的麻袋趕築防禦工事。此外，謝團附還下令在倉庫各個出入口和窗口堆築沙袋以利防守和射擊，並且切斷電源，使部隊在隱蔽的同時，還能防止敵人藉電線縱火。倉庫東邊與煙紙店之間的牆面也命人打通以利對外聯繫。
各連亦一一清點人數及造冊，以便成員中有人殉國後能夠按照名冊上報，使其家屬得到撫卹。謝團附又從各連中抽調出智勇兼具且不怕死之勇士二十餘人，組成一整個排的敢死隊，每位勇士在胸前縫上決死之符誌，由謝團附親自掌握兵力。
大眾一整夜皆未曾闔眼，快馬加鞭部署防備工事。拂曉之時，日軍發現我方大軍似乎已連夜撤離，只有四行倉庫內仍有軍隊留守，便即刻調集部隊作進一步的搜索和攻擊。
上午七時，守衛旱橋的蔣敬班長派人向謝團附報告，日軍第三師團已進入上海北站。八時許，根據我軍平臺瞭望哨之觀測報告，日軍已從西、北、東三處緩速往倉庫接近，並企圖逐漸縮小包圍。
當日軍到達四行倉庫附近時，立即派出幾十名士兵前進我方防禦工事進行偵查，謝團附預先安排在倉庫四周民房、地堡內的機槍手以及倉庫樓頂的機槍手於此時一同開槍朝日軍射擊，不到十分鐘，就有近十幾名日軍全被射死，日軍只得暫時收兵。
上午十時許，日軍再度發動攻擊，樓頂瞭望哨再度向謝團附回報敵情，謝團附聽完報告後，研判旱橋處部隊可能已經受日軍包圍，便下令讓楊瑞符營長盡速通知旱橋警戒部隊邊打邊撤。不久，第三連第二排第四班已由周正法班長率領退回倉庫三樓防守，尹求成排長此時亦準備撤兵，而蔣敬班長卻堅持要繼續留守，以便率領該班弟兄分別留守於滿州路和光復路一帶的民房內，與另一邊尹排長兩個班的弟兄互相配合、夾攻敵人。
午時，倉庫西北兩側日軍在逼近時，因受到我軍強烈還擊，憤而改以縱火方式報復，附近部分民房因此被燒毀，火勢還順著風向延燒至倉庫西北角，幸得我軍士兵及時滅火，火勢才得以控制。
下午一時許，一隊日軍著沿光復路向四行倉庫前進，隊伍伍長的步槍刺刀還繫著一面小型太陽旗，臉上一副趾高氣昂的模樣。第三連第三排排長陳豈凡讓兩個班的士兵藏匿在沙袋堆築的工事後方，待日軍接近滿州路口時，立即擲出十餘顆手榴彈，緊接著又以機槍掃射，把這群狂傲的鬼子打得向後逃竄。埋伏於附近民房內的蔣敬班長向日軍再投出一批手榴彈，嚇得他們趕緊丟下同儕屍體逃之夭夭。
下午二時一過，五十餘名日軍又來到蘇州河邊，在兩輛坦克掩護下再次向四行倉庫襲擊。埋伏於民房中的機槍手再次向日軍猛烈掃射，日軍不顧傷亡，不斷地增援士兵衝鋒進擊。
雙方交戰中，一名張姓壯士為成功炸毀日軍坦克，不惜犧牲自己，以集束手榴彈與之同歸於盡，我軍弟兄見者莫不為之動容和傷痛，然而基於戰況緊急，他們心裡就算再難過，也無法向這位壯烈犧牲的勇者致敬和致哀，因為大家必須合力搶在最短時間內回擊，並以機槍穿甲彈對準另一輛坦克的展望孔進行射擊。警戒部隊此時化悲憤為力量，在其冷靜應戰下，終於成功擊壞敵方戰車，並在殺死二十幾名日軍後奉命撤回四行倉庫。
失去坦克車掩護的日軍紛紛向四行倉庫牆腳靠攏，此景被守衛在樓頂的我軍士兵發現後，立即朝他們扔下手榴彈，被炸死及炸傷的日軍多達將近三十人，其餘迅速潰散而逃。而蔣敬班的九名壯士，在槍彈和手榴彈打完後，惜因未能及時撤出，只能直接與日軍進行肉搏戰，他們徒手滅敵十多人之餘，不幸因彈盡負傷，全數為日軍所俘。
泯滅人性的日軍將怒氣全數發洩在他們身上，將九人雙手反綁，押至蘇州河畔，以鋒利刺刀一刀又一刀的刺，將這九位壯士全捅成了蜂窩，在旁圍觀的日軍士兵冷眼看著這九位壯士在哀嚎聲中慘烈死去，滿地鮮血汩汩流入蘇州河，還不時拍手大聲叫好，其兇殘有如惡魔現世。
就在第三連第二排的兩個班退回倉庫後不久，日軍又繼續發動進攻。我軍從窗口以機槍朝日軍猛射，日軍也不斷還擊，倉庫東側的窗口牆面被打得千瘡百孔，水泥塊和灰塵夾雜著子彈同飛，壯士們個個被噴得灰頭土臉，第三連連長石美豪還被反彈出來的尖銳水泥碎塊擊中臉部而血流滿面，卻仍忍痛以毛巾摀臉堅守崗位繼續指揮戰鬥，直到腿部再次中彈才離開現場休息。
不久，約有八十名日軍沿著四行倉庫西南邊牆角悄悄聚集，企圖爆破位於光復路處的倉庫鐵門，謝團附獲報後，立即交代尹求成排長率領士兵從樓頂朝著這批日軍投下整箱的迫擊砲彈，彈箱一落地，轟隆一聲巨響，二十餘名鬼子兵或死或傷，其餘均倉皇逃散。
在謝團附指示下，除了樓頂瞭望哨以及各窗口必須派員嚴加警戒外，其他人員得加緊趕築工事。四行倉庫的防禦著重於一樓至三樓，這三個樓層的成員必須一面戰鬥，一面不斷增強工事。倉庫南邊的麻包堆積如山，約有五公尺之高；倉庫北邊各門口受敵方攻擊的顧慮最大，強度特別著重，大鐵門外麻包從平地一路層層疊疊往上堆，足足約有將近十公尺的高度。四樓內部則因材料不足，並未做太多的佈署設置，而是改在窗外做一些誘敵設施，誘使敵人盲目射擊以消耗其彈藥。至於五樓以上的工事，由於倉庫對面的交通銀行已為敵人所佔領，而交通銀行的樓層建築低於倉庫四樓，因此工事重點著重於俯瞰敵方以進行攻擊。
日軍在四行倉庫西南邊的爆破行動失敗後不久，又轉向儲有燃料及木材的倉庫西區再次放火，幸得我四行弟兄察覺，即刻搶救，終於在下午五許完全撲滅。
卑鄙的日軍仍不死心，又於晚間十時左右從倉庫周圍再度引燃汽油，一時火光沖天，日軍趁勢以多挺輕重機槍朝向四行倉庫射擊，我軍調派人力一面滅火，一面加緊還擊，對於未完全建置完備的防禦工事亦不敢掉以輕心。
駐防於新垃圾橋的公共租界英軍，怕被戰火流彈波及，從二十七日凌晨起，曾派譯員屢次婉勸，希望我四行守軍放棄戰鬥退入租界，勿作無謂犧牲。對此，謝團附在向英軍表達謝意之餘，他代表全員說：「我們是中國軍人，寧願戰死在閘北這塊領土之內，也決不放棄殺敵的責任。」「我們的魂可以離開我們的身，槍不能離開我們的手。沒有命令，死也不退。」謝團附代表全員毅然表明死守此大上海最後陣地的決心，英軍聽聞後對我四行守軍欽佩不已，頻頻稱讚他們為「勇敢的中國敢死隊員」。
四行倉庫保衛戰頭日開戰，總計共消滅敵兵八十餘名。
