בעבר ניסו לבנות מערכות תרגום מכללים: מילון ענק ועוד כללי דקדוק. זה עבד רק באופן חלקי, כי לשפה יש המון יוצאים מן הכלל, ביטויים ומשמעויות שתלויות בהקשר. מערכות חדשות יותר אומנו על מיליוני משפטים ותרגומים שלהם, ולמדו אילו ניסוחים מתאימים זה לזה.
תרגום מכונה עוזר לקרוא שלט בחו״ל, להבין אתר בשפה זרה או לדבר עם מישהו שלא מדבר את השפה שלנו. הוא טוב במיוחד במשפטים פשוטים ובשפות שיש עליהן הרבה טקסטים, ופחות טוב בשפות עם מעט נתונים, בשירה, בהומור ובניבים.
טעות נפוצה היא לחשוב שתרגום מכונה תמיד מדויק. ניב כמו ״לשבור את הראש״ עלול להיות מתורגם מילה במילה ולאבד את המשמעות. בעברית גם קשה למכונה לדעת לפעמים אם מדובר בזכר או בנקבה. לכן במסמך חשוב מבקשים מאדם שיודע את שתי השפות לבדוק.