紀律因為罪有私罪與公罪的不同，乃須照罪的性質，分為兩種，加以不同的處理。
關于這種罪，馬太福音五章二十三至二十五節指示我們說︰「你在祭壇上獻禮物的時候，若想起弟兄向你懷怨，就把禮物留在壇前，先去同弟兄和好，然后來獻禮物。你同告你的對頭還在路上，就趕緊與他和息，恐怕他把你送給審判官，審判官交付衙役，你就下在監裡了。」此乃可使犯罪者有一種自責自律的餘地。馬太福音十八章十五至十七節說︰「倘若你的弟兄得罪你，你就去，趁著只有他和你在一處的時候，指出他的錯來。他若聽你，你便得了你的弟兄；他若不聽，你就另外帶一兩個人同去，要憑兩三個人的口作見証，句句都可定準。若是不聽他們，就告訴教會；若是不聽教會，就看他像外邦人和稅吏一樣。」這裡第一步，乃是先用私人的訓導。如果無效，然后才交由教會處理或加以責備。
魏斯各德（Westcott）與霍爾德（Hort）忽略了馬太福音十八章十五節中「得罪你」三字，因此就令每一個信徒對于每一位弟兄犯了罪被覺察以后，都要負責引其悔改。這樣就要廢除了私罪和公罪的分別。
倘使一位弟兄得罪了你，你要「隱惡揚善」，不把他的罪外揚，不對他人講，也不寫信給他，而須照馬太福音五章二十二至二十三節的教訓，就去「與他和息」，言歸于好。如果他已悔改，他也要從他的家來看你。這樣可能在半路相逢，釋除彼此的嫌隙和一切的舊恨夙怨，自無須訴諸教會。此乃合乎基督聖徒的體統，大家都宜遵行。
關于公罪，乃和私罪不同，照哥林多前書五章一至五節、十三節說︰「風聞在你們中間有淫亂的事……，我身子雖不在你們那裡，心卻在你們那裡，好像我親自與你們同在，已經判斷了行這事的人。就是你們聚會的時候，我的心也同在。奉我們主耶穌的名，並用我們主耶穌的權能，要把這樣的人交給撒但，敗壞他的肉體，使他的靈魂在主耶穌的日子可以得救。……至于外人有上帝審判他們。你們應當把那惡人從你們中間趕出去。」
保羅對于這種淫亂的人，不給他認罪悔改的機會，因為教會即使加以審問以后，不能立刻得到確切可靠真正悔改的証據。在這種時候，他在本性上雖會自怨自艾；但是這種表現，究竟乃是因為他真切認識了罪性的邪惡，因此憂傷痛悔，抑或僅因犯罪被人發覺，遂至沮喪，無法立刻確知。唯有與其悔改相稱的果子，始能証其真切悔改。但是這種果子不能期諸旦夕，乃需時間予以証實，教會不能長久等候。職是之故，只有把他立刻開除，以免留在教會，作害群之馬。所以保羅主張要把他「趕出去」。這也是為著維護教會及會眾的聲譽，以正社會的視聽；況且上帝是公義的，教會既為主的身體，（弗一23）尤不容稍加玷污，自必嚴格施行紀律，以伸張他的公義，榮耀主的聖名。但是上帝的屬性，須從兩方面看，他雖是公義的。，卻又是慈愛的，保羅雷厲風行，這樣的主張，雖是嚴厲，實亦出于愛心。所以他又在哥林多后書二章六至八節說︰「這樣的人受了眾人的責罰，也就夠了；倒不如赦免他，安慰他，免得他憂愁太過，甚至沉倫了。所以我勸你們，要向他顯出堅定不移的愛心來。」俾能恩義兩全。
教會在社會裡面乃是要代表基督在這個是非莫辨，善惡不分的世界，確立真理，伸張公義。「基督耶穌降世，（雖）為要拯救罪人」（提前一15），但是尤其要榮耀上帝（參約一七4、5）。那犯罪的人，只想逃避審判，只求立刻得到赦免；卻不知他犯罪作惡，不僅為害國家社會，且尤向主犯罪，唯獨得罪了主（參詩五一4）；他的作為實在乃有害主的大道，但在他心中，卻絲毫不以主為念。他乃完全自私，只想文過飾非，保全自己的名譽，以求自慰。一個真正悔改的人，卻不愿把罪孽藏在心裡，而乃用謙卑的心，要求教會把他開除，且對開除他的教會仍加愛護，並愿繼續參加聚會，結果恢複他會友的身分。而教會對于真正悔改的人也照例要接納他回到教會，使迷途之羊重歸羊群；尤如慈父那樣歡迎浪子回家（參路一五章）。但是照聖經的道理，真正促使並確保罪人悔改之道，並非徇情容忍，遷就妥協，而乃為立刻開除。
有些人對于哥林多后書二章六至八節那段聖經，其中「受了眾人的責罰」一語，認為僅是因大多數表決而開除，但其中有些人並不贊同。還有些解經家甚至以為此人根本並未開除而乃為停止尋常的交契而已。但是保羅在哥林多前書五章十三節明明說︰「你們應當把那惡人從你們中間趕出去。」反過來說，保羅對于那些接受勸告的，則加以稱贊。哥林多教會這樣的施行紀律蒙神賜福，因此心志一新，生活聖潔。在許多近代的教會裡面，開除不良會友，也能使聖徒對于他們的責任有新的認識，並能使一般世俗的人確信教會誠然重視紀律，決不苟且。教會藉著聖靈所作的決定，乃正如末日的審判一樣；就如主耶穌在，馬太福音十六章十九節說︰我實在告訴你們，「凡你在地上所捆綁的，在天上也要捆綁；凡你在地上所釋放的，在天上也要釋放」。約翰福音八章一至十一節所記的關于那行淫婦人的案子，他不但指稱他有罪，且勸人悔改；他一方面向眾人挑戰，說︰「你們中間誰是沒有罪的，誰就可以先拿石頭打她。」一方面廢除了以石頭打死人的傳統刑罰，結果「一個一個的都出去了。」但是主耶穌並非容忍罪，因為他最后吩咐那婦人說︰「從此不要再犯罪了。」帖撒羅尼迦后書三章六節說︰「弟兄們，我們奉主耶穌基督的名吩咐你們，凡有弟兄不按規 矩而行，不遵守從我們所受的教訓，就當遠離他。」