一般的かつ純粋なアルバイトであれば、解雇手続きさえ守れば、解雇することができますが、いくつか注意することもあります。
アルバイトといっても、労働者であることには変わりありませんので、労働基準法の適用や労災保険の補償対象者でもあります。
アルバイトの定義が決められているものではありませんが、「学業や他の本業を持っている場合が多く、生活の補助収入のために働いている」、これが一般的なアルバイトの概念だと思います。
さらに正社員に比べて、賃金は低く、時給制であることが一般的です。労働時間も、学業や本業を優先するために、労働日、始業・終業時間さえ決められないこともあります。
こういった背景から、一般的なアルバイトは会社と密着度が低く、契約期間の定めがない場合は、労働基準法20条の解雇手続きをとることにより、『いつでも自由に解雇することができる』と考えられます。
ただしアルバイトといっても、実態は正社員が担当するような基幹的業務に就いていたり、労働時間もほとんど変わらず、特に残業を行っていたりすれば、当該アルバイトは「恒常的労働力」と考えられ、安易に解雇すると、無効になる可能性が高いです。
実態に合わせて、ご判断くださいね。