非法证据是指司法人员违反法律规定的权限、程序或以不正当的方法取得的证据。非法证据的使用一旦被纵容，将导致公权力的肆意膨胀、滋生司法腐败，因此世界上大多数国家对于非法证据均予以排除。我国刑事诉讼法对于非法证据的排除原则没有相关规定，仅在司法解释中有所提及，与刑事证据制度在刑事诉讼中的重要地位极不相称，也不适应司法实践的需要。
非法证据的取舍关系到具体案件的审理结果，关系到被告人的罪与非罪，对其正确认识与合理解决是刑事诉讼法的基础性问题，且由于证据制度在诉讼中的核心地位，也就决定了非法证据的效力问题是刑事诉讼的核心问题。因此，刑事非法证据排除规则在刑事诉讼法律体系中应置于较高的位置。我们应通过立法程序将非法证据的排除原则规定于刑事诉讼法典之中，同时将其作为一项基本原则在刑事诉讼法总则中加以确立。明确不同类型的非法证据的排除原则，增强证据采信的法定性和可操作性。
根据证据排除规则的明确性程度以及法官在证据采信上的自由裁量权大小，可以将非法证据排除规则的立法模式归纳为三种：一是以美国为代表的“强制排除”模式，即侦查机关采用非法手段取得的一切证据原则上均应予排除，法官的自由裁量权很小；二是以加拿大为代表的“裁量排除”模式，非法证据的取舍由法官综合考虑各种因素，依据认定非法证据的损害性与其证明价值相比较加以评判；三是“折衷模式”，即将法律强制与法官自由裁量相结合，对言词证据和实物证据区别对待：凡是违反程序规定所取得的犯罪嫌疑人或被告人的供述、证人证言等一律不予采信，对侦控方非法取得的实物证据或准实物证据的效力，由法官酌予裁量。我们认为，
“强制排除”与“裁量排除”相结合的模式似乎更符合我国目前的司法需要。 因为非法证据的种类不同，其非法取证的违法程度、非法证据的真实性受非法取证影响大小、证据来源的多样性和单一性程度便有所不同，因而对其效力应区别对待。这种做法从根本上讲不但不违背上述程序公正优先观念，而且兼顾了实体公正与程序公正的平衡，因为无论是“强制排除”抑或“裁量排除”及其各自适用范围，均以立法为依据。
1、对非法获得的言词证据采取“强制排除”原则
《最高人民法院关于执行〈中华人民共和国刑事诉讼法〉若干问题的解释》第61条规定：严禁以非法的方法收集证据。凡经查证确实属于采用刑讯逼供或者威胁、引诱、欺骗等非法的方法取得的证人证言、被害人陈述、被告人供述，不能作为定案的根据。这是我国目前对非法证据予以排除作出的最直接的规定。因为言词证据具有易变性，其内容受获取手段影响极大，贝卡利亚指出“在痉挛和痛苦中讲真话并不那么自由，就像从前不依靠作弊而避免烈火于沸水的结局并不那么容易一样……痛苦的影响可以增加到这种地步：它占据了人的整个感觉，给受折磨者留下的唯一自由只是选择眼前摆脱惩罚最短的捷径，这时候，犯人的这种回答是自然的……罪犯与无辜者的任何差别，都被意图查明这种差别的同一方式所消灭了。”
可见，犯罪嫌疑人在逼供、诱供的情况下完全有可能作出虚假的供述，对这种情况下获取的证据应一律排除。同时，禁止非法言词证据的采用可以从源头上减少刑讯逼供现象的发生。
2、对非法获得的物证、书证等实物证据采取“区别对待”原则
世界上大多数国家对非法获得的物证、书证等实物证据的证明能力原则上持肯定态度，至少是作出较言词证据宽松得多的规定或由法官自由裁量。例如英国对实物证据的效力主要由法官综合各种因素作出判断，1969年金诉英国案后，法官对实物证据取舍的裁量权达到了空前的程度。德国对于非法获得的实物证据采取所谓“权衡原则”——将非法取证行为对公民权利侵害的严重性与排除非法证据对实现客观真实的不利影响进行比较作出选择，“两者相较取其轻”， 其实质是兼顾实体公正和程序公正。而美国首创的“违法证据排除法则”规定，违反法定搜查、扣押程序而获得的实物证据一律排除。
与言词证据相比较，实物证据有其自身的特点。首先，实物证据是客观存在的，存在于人脑之外，不以人的意志为转移，形成于犯罪被发现之前，具有较强的客观性和定型性；其次，实物证据的证明力与获取手段的关联性较弱；再次，与采取逼供、诱供的手段获取言词证据相比，非法获取实物证据的手段对公民权利的侵害程度较小；最后，非法实物证据的获取手段往往不具有唯一性。此外，此类证据本身种类较多，其非法取得方式更是千差万别。
因此，对此类证据的证据能力不能采取“自动排除”原则，应在程序公正优先的基础上，兼顾惩治犯罪的实际需要，同时考虑我国刑事司法实际情况，有选择、有区别地对非法实物证据的效力作出判定。虽然我国刑事诉讼法和司法解释对于非法获得的物证和书证如何处理均未作出相关规定，但在审判实践中，从获取手段的违法性程度将此类证据划分为两类：一类是采取严重侵犯了公民的人身、通信、住宅等宪法性权利的手段获取的实物性证据，我们称之为“违宪取得的实物证据”。如未经法定审批程序进行的搜查、查封、扣押、冻结，由此而获得的实物证据。对于此类证据，由于其获取手段的严重违法性，侵犯了公民的基本权利，应坚决排除其效力。另一类是
“一般违法取得的实物证据”，即获取手段仅违反证据立法的某些一般性的或细节性的规定，如侦查人员对犯罪现场进行勘验、检查时，没有让见证人到场；在扣押物证、书证时，没有开列有关的清单；由于工作疏忽欠缺某种具体手续（如签名、盖章）等。对于此类证据，虽然其有违法性，且有一定的危害性，但其侵害的是公民的一般权利，对此类证据一般由法官综合案件各种因素作出裁量。这些因素包括：
（1）案件的性质及其社会危害性程度。案件的危害程度应作为法官考虑对非法证据是否排除的一个前提因素，即以该证据的证明价值与认定该证据的损害性进行比较（2）该证据对本案的重要程度。一个案件的证据既有直接证据，也有间接证据，有原始证据，也有传来证据，各个证据的证明目的不同，重要程度也不同，对其效力排除的慎重程度自然不同。（3）非法取证方式的转换与弥补的客观可能性。侦查人员由于情势紧迫而造成程序上的疏漏，对当事人合法权益损害轻微，如果欠缺的要件或手续可以及时补足，或进行必要的转换，则可以肯定其证据能力。（4）非法证据的可替代性以及重新调取的可能性。就某一案件而言，非法证据不能用合法证据替代的或无法重新取证获得合法证据的比可以替代或可以重新取证的，在排除时应当持更为慎重的态度。
3、对非法取证行为所间接获取的证据的效力有条件的采信
作为侵犯公民合法权益的结果而间接获得的证据，有学者称为“衍生证据”或者“第二手证据”， 禁止使用这种证据通常被称为 “毒树之果”规则。 然而该规则的负面效应在司法实践中也越来越明显，连最早倡导该规则的美国也不得不对这一规则的适用范围随后作出了较大的限制，创立了“必然发现的例外” 、“清除污染的例外”或“稀释的例外” 、“独立来源的例外” 。根据我国的司法状况，在审判实践中一般认为，
只要在采集后一证据时，不符合非法证据排除规则的，就可以采用。如果经审查具有违法情况，则按照非法证据排除规则加以判断。因为目前我国刑侦技术手段落后，刑侦人员素质不高，如果对这种衍生证据一律不采信的话，将不利于打击犯罪，维护社会稳定；而且虽然衍生证据的线索是非法的，但并不影响衍生证据自身的真实性。