Ջոուլը ծնվել է ունևոր ընտանիքում. հայրը գարեջրի գործարանի սեփականատեր էր: Տասնհինգ տարեկան հասակից աշխատել է հոր գործարանում, տասնվեցից՝ սովորելուն և գիտությամբ զբաղվելուն զուգընթաց՝ մասնակցել այդ ձեռնարկության կառավարմանը, մինչև 1854 թվականը, երբ այն վաճառվել է:
Ջեյմս Ջոուլն աշխատել է հայտնի ֆիզիկոս ու քիմիկոս Ջոն Դալտոնի մոտ և նրա ղեկավարությամբ սկսել իր փորձարարական հետազոտությունները։ 1841 թվականին նա բացահայտել է (Էմիլի Լենցից անկախ), որ մետաղե հաղորդիչով էլեկտրական հոսանք անցնելիս անջատվող ջերմության քանակը համեմատական է հաղորդիչի էլեկտրական դիմադրությանը, հոսանքի ուժի քառակուսուն և հոսանքի անցման ժամանակին (հայտնի է որպես Ջոուլ-Լենցի օրենք)։
1843–1850 թվականներին նա փորձերով ցույց է տվել, որ մեխանիկական աշխատանքը ջերմության կարող է վերածվել խիստ որոշակի համամասնությամբ, և որոշել է ջերմության մեխանիկական համարժեքը։ Դրանով նա տվել է էներգիայի պահպանման օրենքի փորձնական հաստատումը։ 1851 թվականին Ջուոլը տեսականորեն որոշել է որոշ գազերի ջերմունակությունը, ջերմությունը դիտելով որպես մասնիկների շարժում։ Նա հետազոտել է գազի սեղմման և ընդարձակման ժամանակ առաջացող ջերմային երևույթները, մասնավորապես, նոսրացած գազերի ընդհարձակման փորձերով ցույց է տվել, որ դրանց ներքին էներգիան կախված չէ ծավալից, ինչը և ընդունվել է իդեալական գազիհամար։ Անգլիացի ֆիզիկոս Վիլյամ Թոմսոնի հետ Ջոուլը փորձնական ճանապարհով պարզել է, որ ծակոտկեն միջնորմով գազի դանդաղ, ստացիոնար, ադիաբադ հոսույթի դեպքում գազի ջերմաստիճանը փոխվում է (Ջոուլ-Թոմսոնի էֆեկտ)։ Կառուցել է թերմոդինամիկական ջերմաստիճանային սանդղակ, տեսականորեն որոշել մի շարք գազերի ջերմունակությունը։ Հաշվարկել է նաև գազի մոլեկուլների շարժման արագությունը և հայտնաբերել այդ արագության կախումը ջերմաստիճանից։ Գազի ճնշումը նա համարել է անոթի պատերին գազի մասնիկների հարվածների արդյունք։ Ջոուլը հայտնաբերել է նաև մագնիսական հագեցման երևույթը ֆեռոմագնիսների մագնիսացման դեպքում։
Դավիթ Հարությունյան 