رومن گاری با نام اصلی رومن کاتسِف (Roman Kacew) در ۸ مه 1914 میلادی در شهر ویلنا (اکنون: ویلنیوس، واقع در لیتوانی) در خانواده‌ای یهودی به پا به جهان گشود. پدرش آری-لیب کاسو بعد از مدت کوتاهی در 1925 میلادی خانواده را رها کرد و به ازدواج مجدد دست زد. از این هنگام او با مادرش، نینا اوزینسکی (کاسو)، به امور زندگی خود می پرداختند، ابتدا در ویلنا و کمی بعد در ورشوی لهستان.
در سال 1928 میلادی، رومن چهارده ساله به همراه مادر خود به شهر نیس در کشور فرانسه رفتند. وی سرگذشت سه دههٔ نخست زندگی‌اش را در کتاب میعاد در سپیده دم (La promesse de l'aube ،1960) نوشته‌است.
او در کشور فرانسه به تحصیل رشته حقوق پرداخت، ابتدا در «اکس-ان-پروونس» و کمی بعد در پاریس. البته که او در «سالون-دو-پروونس» و در پایگاه هوایی آوورد در نزدیکی بورگس، خلبانی در نیروی هوایی کشور فرانسه را آموخت. پس از اشغال فرانسه توسط نازی‌ها در جنگ جهانی دوم، وی به انگلستان گریخت و به رهبری شارل دوگل به «نیروهای آزاد کشور فرانسه» پیوست و در اروپا و آفریقای شمالی جنگید.
او نگارش نخستین رمانش، تربیت اروپایی (1945) را زمانی که در ارتش بود شروع کرد. در سال 1945، در کشور فرانسه جایزه منتقدین (Prix des critique) را دریافت کرد. همچنین به دلیل خدمات زیاد در ارتش موفق به اخذ جوایز متعددی از ارتش شد.
پس از جنگ، رومن با مدرک حقوق، که از دانشگاه پاریس در کشور فرانسه گرفته بود، و نیز با دیپلم زبان‌های اسلاو که از دانشگاه ورسای دریافت کرده بود، به عنوان دیپلمات در شهرهای مختلف کار کرد. همچنین به عنوان سخنگوی هیئت نمایندگان فرانسوی سازمان ملل ابتدا در نیویورک و کمی بعد در لندن به فعالیت پرداخت. پس از اقامت در نیویورک به دلیل خستگی به مدت سه ماه کار را رها کرد و به استراحت پرداخت.وی در سال 1965 به نوشتن رمان ریشه‌های آسمان (Les racines du ciel) پرداخت. این داستان نخستین رمان رومن گاری بود که برندهٔ جایزهٔ گنکور شد.
طی این سال‌ها رومن دو بار ازدواج کرد. نخستین همسرش نویسنده‌ای انگلیسی به نام لزلی بلانش بود. در سال 1963 از وی جدا شد و با هنرپیشه‌ای به نام جین سیبرگ ازدواج کرد و مدت 7 سال در کنار او زندگی کرد. وی زندگیش با سیبرگ را در کتابی به نام سگ سفید (1970،Chien Blanc) به رشته تحریر درآورده‌ است. حاصل این زندگی مشترک پسری به نام دیه‌گو بود که مدتی را در اسپانیا با زن مدیری زندگی می‌کرد. زندگی پسرش و این خانم الگوی رومن برای نقش‌های مومو و مادموازل رزا در رمان زندگی در پیش رو شد.
وی در دوران زندگی سیاسی‌اش حدود 12 رمان نوشته است. به همین دلیل بسیاری از کارهایش را با نام مستعار می‌نوشت. نام‌هایی مانند: Fosco Sinibaldi ,Shatan Bogat ,Emile Ajar. زمانی با نام مستعار امیل آژار به نویسندگی می‌پرداخت، تحت نامی به عنوان رومن گاری نیز داستان می‌نوشت.
گَری فرم امری فعلی با معنای «به دنیا آمدن» در زبان روسی است. به همین دلیل رومن مدل آمریکایی شدهٔ این فعل را به عنوان نام مستعار خود انتخاب کرد. البته این انتخاب تا حدودی به دلیل قهرمان رومن، گری کوپر بود. کلمهٔ آژار (تلفظ اصلی: آیار) نیز به لحاظ معنایی نزدیک به کلمهٔ‌گری است. این واژه در زبان روسی به معنای «زغال سنگ‌های زنده» است که یک اصطلاح انجیلی و به مفهوم انوار الهی است.
وی دومین جایزهٔ گنکور را با نام امیل آژار به دلیل نوشتن رمان زندگی در پیش رو به دست آورد. رومن تنها نویسنده‌ای است که دو مرتبه موفق به اخذ این جایزه شده‌است. این جایزه تنها یک بار به هر نویسنده تعلق می‌گیرد. به دلیل اینکه وی این رمان را با نام مستعار نوشته بود برای دومین بار توانست این جایزه را دریافت کند و پسرعمویش پائول پالویچ، به جای وی این جایزه را دریافت کرد. رومن بعدها در کتابی به نام «زندگی و مرگ امیل آژار» (Vie et mort d'Emile Ajar) حقیقت را فاش کرد.
رومن گاری همچنین فیلمنامه طولانی‌ترین روز و نیز فیلمنامه قتل را نوشت و این فیلم را با بازی همسر دوم خود کارگردانی کرد.
رومن گاری در 2 دسامبر 1980 بعد از مرگ همسرش در سال 1979 با شلیک گلوله‌ای به زندگی خود خاتمه داد. وی در یادداشتی که از خود به جای گذاشته این طور نوشته‌است «... دلیل این کار مرا باید در زندگینامه‌ام شب آرام خواهد بود، (La Nuit sera calme, 1974) بیابید.» او در این کتاب گفته‌است: «به خاطر همسرم نبود، دیگر کاری نداشتم.» و همچنین نوشته‌است: «واقعاً به من خوش گذشت، متشکرم و خداحافظ!»