وي از مسيحيان شام بود که معاويه او را به عنوان مشاور خويش در امر حکومت، استخدام کرده بود. همچنين در دوره ي يزيد نقشي را در دربار يزيد داشت و با يزيد، همدم و مأنوس بود. با رأي و نظر او بود که يزيد، پس از بيعت شيعيان کوفه با مسلم بن عقيل، براي سرکوبي حرکت کوفيان، ابن زياد را به ولايت کوفه گماشت. سرجون رومي، سمت دفترداري و کاتب بودن را در دربار خلفا، در دوره ي مروان بن حکم و عبدالملک مروان هم داشت و چون برخي کوتاهيها و سهل انگاريها در کار او ديدند، با لطايف الحيلي مثل تغيير ديوان محاسبات از رومي به عربي، او را از کار برکنار کردند.