在建立减刑撤销制度这个问题上，可以借鉴我国关于假释撤销制度的规定，也可以借鉴国外的一些做法。例如，美国《监狱与犯人法》第4165和4166条规定:“如果一个犯人在监禁期间犯罪,或违反关押监狱的监规制度,即因此丧失它所取得的表现良好的那段时间的全部或者部分。”“执法检察官在认为狱政局局长的情况介绍是正确的情况下,他可以恢复任何犯人所丧失的或失去的表现良好的那段时间或其中的一部分。”加拿大有关法律规定，犯人一入狱就可获得1/4减刑，只有在狱中又犯新罪，才没收减刑，其他情况不没收，被没收减刑的罪犯，可以在一定时间内申请恢复被没收的减刑。

同时规定，没收30天以下的减刑由狱方决定;没收30天以上的减刑，由地区法官决定;没收90天以上的减刑，由假释委员会决定。意大利有关法律规定，罪犯在减刑后的服刑期间，如犯非过失性重罪，应撤销其减刑。法国刑事诉讼法第721条规定：“若服刑人员违反有关法律法规，刑罚执行裁判官有权根据监狱管理者的建议或地区检察官的请求撤销其被减的刑期，最高每一年可撤销三个月或每一个月撤销七天。刑罚执行裁判官的减刑撤销决定必须根据第712—5条规定的程序作出。服刑人员刑满释放后，在其被减的刑期内，无论是因重罪还是轻罪重新被判处应受监禁的刑罚，根据本条(第721条)第一、二款以及第三款之规定，法庭有权撤销其部分或全部减刑，重新将其收监执行，而且这段刑期不能与新罪所判刑期合并执行。”

以上这些国家均对减刑撤销程序进行了详细、明确的规定，虽然对于撤销减刑的条件规定不一，但是均认为犯罪人在减刑之后违反相关规定的，刑罚执行机关有权撤销其已减刑期。